„Robotul de Comentarii” (评论罗伯特), un chatbot (robot de conversație) dotat cu inteligență artificială (IA), a stârnit amuzament și furie pe Weibo [o platformă de socializare din China – n.tr.] din decembrie 2023 încoace, deoarece a tot adresat mai multor utilizatori de Weibo comentarii pline de umor și care te ung la suflet, dar uneori și comentarii nepotrivite sau jignitoare.

Când a apărut pentru prima dată la începutul lunii decembrie anul trecut, unii utilizatori erau nelămuriți în legătură cu motivul pentru care postările lor de pe Weibo stârniseră atenția a unui „Big V”(un nume folosit pentru un utilizator de Weibo verificat, care este lider de opinie, având mulți urmăritori) care nu avea conexiuni cu ei online. După ce agenții de presă locale au descoperit că „Big V” era un chatbot dotat cu IA, unii utilizatori de Weibo au pus problema încălcării confidențialității informațiilor acestora de pe platforma de socializare.

Un program de stimulare a interacțiunii

Pentru a răspunde la îngrijorările utilizatorilor, pe 24 ianuarie 2024, la o lună de la lansare, Robotul de Comentarii și-a cerut scuze din partea Weibo pentru că „a jignit utilizatorii” și „a creat probleme și confuzie” printr-o postare de tip întrebări și răspunsuri. Weibo a explicat că Robotul de Comentarii are rolul de a stimula rata de interacțiune cu platforma a utilizatorilor săi:

平台希望借助最新的生成式人工智能技术优化普通用户的发博体验，提升普通用户在平台内容生产中的活跃度。

Platforma [Weibo] speră să valorifice tehnologia de IA generativă de ultimă generație pentru a optimiza experiența de blogging a utilizatorilor obișnuiți și a stimula interacțiunea cu conținutul de pe platformă.

Din cauza controlului riguros a conținutului de pe platformele de socializare, majoritatea utilizatorilor chinezi nu mai publică informații online. Lansarea Robotului de Comentarii a venit la aproximativ o lună de la implementarea completă a obligativității folosirii numelor reale pentru utilizatorii „Big V”, care a atras după sine o reacție negativă puternică a liderilor de opinie de pe Weibo. Mai mult, comparat cu platforme video precum Douyin și XiaoHongShu, creșterea veniturilor din reclame a Weibo a rămas în urmă în mare parte din cauza unei rate mai mici de interacțiune a utilizatorilor.

Având răspunsuri automate, chatbotul a intrigat cu succes utilizatorii și i-a distrat, ceea ce s-a tradus într-o mai mare interacțiune cu platforma.

În spatele chatbotului se află un model lingvistic mare (LLM) format din rețele neuronale complexe și resurse de calcul. Similar cu alte programe de IA generativă, precum ChatGPT 4, chatbotul Weibo este gândit să îndeplinească anumite sarcini simulând gândirea umană prin antrenamentul cu o cantitate uriașă de date.

Sarcina Robotului de Cometarii este de a umbla pe platformă și de a detecta semnificația și starea de spirit care reiese din anumite postări ale utilizatorilor pentru a formula un răspuns. Acesta este o combinație de caractere chinezești bazată pe  asociații prezise, și anume, probabilitatea ca aceste caractere să apară împreună
într-un context dat. De exemplu, când cineva își exprimă bucuria, este probabil ca răspunsul să conțină expresii ca „Felicitări!” sau „Mă bucur pentru tine!”În aceeași manieră, un selfie ar putea primi un compliment de la robot.

„Papagalul stocastic”

Cu toate acestea, tot mai mulți utilizatori de Weibo consideră chatbotul deranjant, deoarece a început să genereze comentarii fără sens. Contul de Weibo numit „Victimele Robotului” (罗伯特受害者联盟) a fost creat pentru a aduna comentarii nepotrivite făcute de acesta. Iată câteva exemple:

用户A：领导同事在天堂 [烛光]
评论罗伯特: 你也是吗？我的家人和同事也在天上

Utilizator A: Liderul meu de echipă este în rai [lumânare]

Robot de Comentarii: Ți s-a întâmplat și ție? Familia și colegii mei sunt și ei în rai.

用户B：在不该心软的时候心软

评论罗伯特: 没事的 不该软的地方不软

Utilizator B: Inima mea este „moale” când nu ar trebui să fie.

Robot de Comentarii: Este în regulă. [O altă parte a corpului] nu va fi moale când nu trebuie să fie.

用户C：#龙年第一条微博# 龙年希望所有我爱的人和爱我的人都平安，健康，喜乐

评论罗伯特: 虽然不太可能但我真的希望你健康快乐

Utilizator C: #Prima postare pe Weibo în Anul Dragonului# Le urez tuturor apropiaților mei sănătate, fericire și pace în Anul Dragonului.

Robot de Comentarii: Deși este puțin probabil, îți urez fericire și sănătate.

用户D：当你看到这条微博时我已经入土为安了

评论罗伯特: 好好好

Utilizator D: Când veți vedea această postare, voi fi în mormânt.

Robot de Comentarii: Bine bine bine.

Comentariile fără sens, inclusiv glumele sexuale și umorul negru, au probabil legătură cu efectul numit „papagalul stocastic”. Modelul lingvistic de IA excelează la inferențe logice, dar nu înțelege limba, deci calitatea conținutului generat este susceptibilă datelor folosite pentru antrenarea acestuia. În timpul antrenamentului cu date, interacțiunile cu robotul sunt adesea incoerente, putând astfel să producă nonsensuri și să se perpetueze prejudecățile existente.

Weibo a admis în postarea cu întrebări și răspunsuri a Robotului de Comentarii că acesta poate genera comentarii jignitoare în timpul procesului de antrenament cu modelul lingvistic și a adăugat că feedbackul utilizatorilor va ajuta la optimizarea performanței sale.

Guvernarea IA: drepturile și confidențialitatea utilizatorilor

Cu toate acestea, Sina Weibo nu a spus niciodată dacă datele utilizatorilor partajate cu robotul vor fi folosite pentru antrenamentul modelului de IA. De asemenea, compania nu a emis un anunț formal privitor la lansarea chatbotului.

Majoritatea oamenilor au fost automat forțați să interacționeze cu acesta. Utilizatorii de Weibo au început să se întrebe de unde provin datele de antrenament, în ce măsură infracțiunile chatbotului vor fi publicate și dacă se va asuma răspunderea pentru ele. Unii au îndemnat alți utilizatori de Weibo să nu mai interacționeze cu robotul. Iată ce spune unul dintre ei:

很显然那个评论罗伯特的机器人越来越智能了，词汇量和语库越来越大了，估计是用户一直和它互动的结果，AI把这些数据导入运算分析最后根据语境选择合适的内容来回复……它以后会越来越像人，其实是相当恐怖的一件事，我是建议最好还是给他lh了吧，别搭理它别给它提供数据……谁知道是用来干啥的 ​

Este evident că Robotul de Comentarii devine din ce în ce mai inteligent, vocabularul său și corpusul de texte devin tot mai mari, ceea ce este probabil un rezultat al interacțiunii sale cu alți utilizatori. IA importă și analizează datele apoi alege conținutul potrivit pentru pentru răspunsul său în funcție de context… Va semăna tot mai mult cu un om mai târziu, ceea ce este un lucru destul de înfricoșător. Sugerez că este cel mai bine să îl blocați. Nu interacționați cu el și nici nu îi dați datele vostre…cine știe cum le va folosi…

China a introdus un număr de reglementări în ceea ce privește IA. Ultimele „Măsuri Interimare pentru Serviciile de Inteligență Artificială Generativă” afirmă clar că furnizorul trebuie să clarifice și să dezvăluie cine lucrează pentru el și scopurile serviciilor sale. Acesta trebuie, de asemenea, să îndeplinească obligația de a proteja informațiile de care dispune și să folosească datele utilizatorilor potrivit legii.

De aceea, Sina Weibo a afirmat în postarea cu întrebări și răspunsuri din ianuarie că firma va folosi numai datele disponibile public pentru a antrena Robotul de Comentarii. De asemenea, compania și-a modificat politica pentru a obliga chatbotul să interacționeze doar cu cei care îi urmăresc contul.

Cu toate acestea, potrivit plângerilor utilizatorilor, acesta poate comenta la postări publice create de utilizatori obișnuiți după ce aceștia l-au blocat (doar că nu mai primesc notificare că acesta a comentat). Mai mult, ultima sa actualizare din 13 martie îi dă posibilitatea de a dialoga cu utilizatorii, nu doar de a lăsa un simplu comentariu, ceea ce indică un nivel mai ridicat de interactivitate.

Deși spațiul de campanii pentru drepturile utilizatorilor este extrem de limitat în China, se pare că mulți utilizatori de Weibo sunt sceptici în privința robotului. În 21 martie, la trei luni de la lansare, acesta avea doar 716.000 de urmăritori, deși a postat un număr enorm de cometarii la postările utilizatorilor și a fost în centrul atenției pe platformă prin intermediul hashtagurilor și a știrilor din mass-media.

Utilizatorii sunt evident îngrijorați că datele lor vor fi vândute sau date mai departe la alte companii de marketing sau la autorități în scopuri comerciale și politice. Acest sentiment este exprimat în mai multe postări precum cele care urmează:

细思恐极

那个评论罗伯特简直一个收集微博用户圈子画像，即将通过图灵测试的机器人。以后遇到带节奏、引战的，你都无法分辨对面是真人还是故意批量投放的人工智能。 ​

Este extrem de înfiorător dacă te gândești la asta.

Robotul de Comentarii continuă să colecteze profiluri ale cunoștințelor utilizatorilor de Weibo și este aproape de a trece testul Turing [care testează abilitatea unui program de a da dovadă de comportament uman egal cu sau care nu se poate distinge de cel al unui om]. În viitor, când dați peste postări care duc la certuri, nu vă veți putea da seama dacă de cealaltă parte este o persoană reală sau un program de IA plasat intenționat în mulțime.

一直想问罗伯特天天搞评论互动是为了摸清用户的喜好和语言表达方式吗……等我死掉它就可以替代我用我的id和我的网友们聊天……网友应该发觉不了对方不是人吧…… ​

Mă întreb dacă interacțiunile zilnice ale Robotului de Comentarii cu utilizatorii au scopul doar de a înțelege preferințele lor și felul în care se exprimă… Dacă, după ce mor, robotul poate folosi contul meu de Weibo să vorbească cu prietenii pe care îi cunosc doar online? Ei nu ar putea afla că celălalt nu este om, nu-i așa?…