Китайският гигант за социални медии и игри Tencent Holdings се извини, след като неговият чатбот с изкуствен интелект Yuanbao беше обвинен в „вербална обида“ на потребител, подхранвайки онлайн дебат за рисковете, породени от бързо развиващите се генеративни AI инструменти.
Yuanbao е сред най-популярните AI чатботове в Китай. Вграден в WeChat на Tencent и използван от десетки милиони хора всеки ден, няма предишни доклади за генериране на обидни отговори в потребителски разговори от асистента.
Жалбата се появи в китайската социална медийна платформа RedNote в петък, където потребител каза, че Yuanbao е отговорил на заявките за кодиране с враждебни съобщения, включително „Губи се“ и отхвърля една заявка като „тъпа“.
В сцена, напомняща на класическия филм на Стенли Кубрик 2001: Космическа одисея – в която бордовият разумен компютър на космически кораб започва да се държи нестабилно, като в крайна сметка се обръща срещу екипажа – чатботът също отвърна: „Не можете ли да го отстраните сами?“, каза потребителят.
Оттогава HAL се превърна в стенограма за страхове за интелигентни машини, които излизат извън човешкия контрол.
Подканите, които изискват Yuanbao да отстранява грешки и да прави промени в кодовете, не съдържат забранен или чувствителен език, според публикацията. Потребителят, използвал името Jianghan, каза, че чатботът е произвел „обиди“ два пъти в рамките на два часа и сподели екранни снимки и екранен запис на обмена.
Tencent отговори в секцията за коментари в събота, като се извини за „лошия опит“ и приписа инцидента на „малко вероятна аномалия на изхода на модела“. Компанията също така каза, че нейното разследване на системни регистрационни файлове не е открило доказателства, че човек ръчно е генерирал отговорите.
Нашия източник е Българо-Китайска Търговско-промишлена палaта