Caravan.kz медиа порталы жалғастырады.
Бұл туралы 404 Media басылымы OpenAI-дің ішкі құжаттарына және компаниямен жұмыс істейтін қызметкерлердің мәліметтеріне сүйеніп жазды.
404 Media мәліметінше, OpenAI ChatGPT-пен болған нақты әңгімелерді талдау үшін жүздеген мердігерді тартады. Олардың міндеті — модельдің берген жауаптарын бағалау.
Сарапшыға қолданушының сұранысы және оған ChatGPT берген жауап көрсетілуі мүмкін. Ол алдымен адамның не сұрағанын, қандай мақсат көздегенін анықтайды. Содан кейін жауаптың қаншалықты нақты, пайдалы және сұранысқа сай болғанын бағалайды.
Егер жауапта қате немесе кемшілік болса, сарапшы оны көрсетіп, қалай жақсартуға болатыны туралы пікір қалдырады.
Бұл жұмыс OpenAI-дің Project Lily деп аталатын ішкі бағдарламасымен байланысты.
Яғни ChatGPT-ті жетілдіруде тек автоматтандырылған жүйелер ғана емес, адам бағалауы да пайдаланылады.
Қолданушының аты-жөні көріне ме?
404 Media жазуынша, мұндай тексеру кезінде сарапшылар қолданушының ChatGPT-тегі аккаунт атауын немесе аты-жөнін көрмейді.
OpenAI де жеке тұлғаны анықтауға мүмкіндік беретін ақпаратты адам сарапшыларына берілетін деректерден алып тастауға тырысатынын мәлімдейді.
Компанияның құжаттарында жеке ақпаратты анықтап, бүркемелеуге арналған арнайы құралдар қолданылатыны көрсетілген.
Бірақ бұл чаттағы барлық жеке ақпарат міндетті түрде жойылады деген сөз емес. Сондықтан ChatGPT-ке енгізілген ақпаратты «оны адам ешқашан көрмейді» деп қабылдамаған дұрыс.
OpenAI бұл ақпаратты не үшін пайдаланады?
Негізгі мақсат — ChatGPT жауаптарының сапасын арттыру.
Мысалы, модель сұраққа жауап бергенімен, қолданушының нақты мақсатын түсінбеуі немесе қажетсіз ұзақ жауап беруі мүмкін. Адам сарапшылары осындай жағдайларды анықтап, модельдің келешекте дәлірек жауап беруіне көмектеседі.
Бұл тәсіл жасанды интеллект модельдерін адамның кері байланысы арқылы жетілдірудің бір бөлігі болып саналады.
ChatGPT-тегі чаттарды модельді оқытуға пайдалануға бола ма?
Иә. OpenAI-дің ресми мәліметіне сәйкес, жеке қолданушылардың ChatGPT-тегі контенті модельдерді оқыту және жетілдіру үшін пайдаланылуы мүмкін.
Алайда қолданушы бұған келіспеуге құқылы.
Ол үшін ChatGPT баптауларынан:
Settings → Data Controls → Improve the model for everyone функциясын өшіру керек.
Бұл параметр өшірілгеннен кейін жаңа әңгімелер модельдерді оқытуға пайдаланылмайды. Бірақ чаттар қолданушының тарихында қала береді.
Сондықтан бұл функцияны өшіру бұрынғы барлық хаттарды автоматты түрде жоймайды.
Функцияны өшіру адамның чатқа кіруіне толық тыйым сала ма?
Жоқ. Бұл жерде екі түрлі нәрсені ажырату маңызды.
Improve the model for everyone функциясын өшіру — жаңа чаттарды модельдерді оқытуға пайдаланудан бас тартуға мүмкіндік береді. Бірақ ол OpenAI қызметкерлерінің немесе уәкілетті мамандардың белгілі бір жағдайларда контентке қол жеткізу мүмкіндігін толығымен жоймайды.
OpenAI құжаттарында пайдаланушы контентіне қауіпсіздік мәселелерін тексеру, техникалық қолдау көрсету, құқықтық талаптарды орындау және басқа да белгіленген жағдайларда қол жеткізілуі мүмкін екені жазылған.
Демек, бұл баптауды өшіруді «енді менің чатымды ешбір адам көре алмайды» деп түсінбеу керек.
Құпия ақпарат жазатындар не істей алады?
OpenAI Temporary Chat функциясын да ұсынады.
Компанияның мәліметінше, мұндай әңгімелер чат тарихында сақталмайды, Memory функциясына ақпарат қоспайды және модельдерді оқытуға пайдаланылмайды.
Сондықтан жеке немесе құпия тақырыптағы ақпаратпен жұмыс істеген кезде осы мүмкіндікті пайдалануға болады.
Дегенмен кез келген онлайн сервис сияқты, ChatGPT-ке де аса құпия ақпаратты жібергенде абай болған жөн. Мысалы, банк картасының толық деректері, құпия парольдер, жеке куәлік мәліметтері немесе жұмысқа қатысты құпия құжаттарды чатқа жүктемеген дұрыс.
Бұл OpenAI-ге ғана қатысты емес
Адамдардың AI жүйелерімен сөйлесулерін тексеру OpenAI-ге ғана тән тәжірибе емес.
404 Media мәліметінше, Google-дың Gemini сервисінде де кейбір чаттарды адамдар жасанды интеллект жүйелерін жетілдіру мақсатында тексеруі мүмкін.
Anthropic компаниясы да модельдерін жетілдіру барысында адам сарапшыларының бағалауын қолданатынын растаған.
Яғни жасанды интеллект жүйесінің артында алгоритмдермен қатар, олардың жауаптарын тексеріп, бағалайтын адамдар да бар.
ChatGPT қолданушысы нені білуі керек?
ChatGPT-ке жазған ақпаратты «жеке хат» ретінде қабылдамаңыз.
OpenAI қолданушыға деректерді модельдерді жетілдіру үшін пайдалануға рұқсат бермеу мүмкіндігін ұсынады. Ол үшін Improve the model for everyone функциясын өшіруге болады.
Ал чаттың тарихта сақталмауын және модельді оқытуға пайдаланылмауын қалайтындар Temporary Chat функциясын қолдана алады.
Сонымен бірге бұл баптаулар OpenAI жүйелеріндегі адам қолжетімділігінің барлық түрін жоққа шығармайды.
Сондықтан қарапайым қағиданы естен шығармаңыз: құпия ақпаратты ChatGPT-ге енгізбес бұрын ойланып алған дұрыс.
ChatGPT сіздің барлық хаттарыңызды адамдар оқып отыр деген сөз емес. Бірақ кейбір нақты сұраныстардың адам сарапшыларының қарауына түсуі мүмкін екенін ескерген жөн.