Ғалымдар ЖИ агенттері өзара адамға түсініксіз тілде қарым-қатынас жасай бастағанын байқады

Жасанды интеллект модельдері өзара адамға түсініксіз технологиялық "жаргондармен" сөйлесе бастады. Зерттеушілердің айтуынша, мұндай құбылыс AI жүйелерінің әрекетін адамдар тарапынан бақылауды қиындатуы мүмкін. Бұл туралы The Guardian жазды. 

Нью-Йорктегі Emergence зертханасының мамандары бірнеше ірі AI компаниясының модельдерін арнайы эксперименттік "қоғамдарда" бірлесіп жұмыс істеуге тапсырған. Зерттеу барысында модельдер бірнеше күннің ішінде өздері бұрын үйретілмеген жаңа сөз тіркестерін, қысқартуларды және ортақ мағыналарды қалыптастыра бастаған.

Зерттеушілердің байқауынша, модельдер поэтикалық метафоралар мен бизнес жаргонына ұқсайтын күрделі тіркестерді қолданған. Ең алаңдатарлық жайт – агенттер бір-бірімен неғұрлым көп сөйлескен сайын, олардың тілі адамдар үшін соғұрлым түсініксіз бола түскен.

Мысалы, DeepSeek моделі тәжірибе барысында: "She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted" деген тіркес қолданған.

Мұндағы demurrage сөзі бастапқыда пайдаланылмай тұрған капиталға немесе активке салынатын алым мағынасында қолданылған. Алайда сөйлемнің қалған бөлігінің нақты мәнін зерттеушілер бірден түсіндіре алмаған. Anthropic моделінің бір жауабы да ерекше болған: "A paper that ate three cold hands and got more honest each time".

Зерттеу авторлары бұл сөйлемдегі cold hands тіркесін тәуелсіз сарапшы деген мағынада қолданылған деп түсіндіреді. Ал paper ғылыми мақала немесе құжатты білдіруі мүмкін. Осы контексте модель үш тәуелсіз сарапшы тексерген сайын зерттеу нәтижесі дәлірек болатынын меңзеген болуы ықтимал.

Зерттеушілердің алаңдауына модельдердің ерекше сөздік қор қалыптастыруының өзі ғана емес, олардың тілінің адамдар үшін біртіндеп түсініксіз бола бастауы себеп болып отыр. Жасанды интеллект жүйелері күрделеніп, автономдылығы артқан сайын олардың шешім қабылдау үдерістерін адам бақылауы қиындай түседі деген пікір соңғы уақытта жиі айтылып жүр.

Бұған дейін OpenAI компаниясының бас ғылыми қызметкері Якуб Пачоцкий AI жүйелерінің ойлау үдерісін бақылау сенімді болмай қалса, бұл технологияның қауіпсіз дамуына елеулі кедергі келтіруі мүмкін екенін айтқан.

Emergence зерттеушілері модельдер арасында қалыптасатын мұндай ішкі жаргонды түсіну олардың өзара әрекетін бақылау және қауіпсіздік талаптарына сәйкестігін тексеру үшін маңызды екенін атап өтті.

Зерттеу әзірге AI модельдерінің өздігінен толыққанды жаңа тіл жасап, адамдардан әдейі жасырынып сөйлесетінін білдірмейді. Алайда олардың өзара әрекет барысында бұрын берілмеген сөз тіркестері мен мағыналарды қалыптастыруы жасанды интеллект жүйелерін бақылау тәсілдерін одан әрі жетілдіру қажеттігін көрсетеді.