Consilierul Ramiro Rosário în timpul unei ședințe a Consiliului Municipal din Porto Alegre | Foto de Leonardo Lopes/CMPA, folosită cu permisiune și editată de Global Voices

După ce un proiect de lege a fost aprobat de Consiliul Municipal din Porto Alegre, din Rio Grande do Sul, cel mai sudic stat din Brazilia, și a fost aprobat și de primar, consilierul municipal care l-a prezentat a decis să dezvăluie că textul a fost scris și a inclus sugestii făcute de inteligența artificială (IA).

Proiectul de lege care îi scutește pe oameni de la plata unui nou apometru dacă acesta a fost furat a fost aprobat în unanimitate de consilieri.

Consilierul Ramiro Rosário a dezvăluit că participarea sa la crearea textului a constat în a trimite o directivă de 289 de caractere către ChatGPT. Programul a generat un proiect de lege cu opt articole și motivația din spatele său. Dar versiunea inițială era incompletă din cauza limitării numărului de caractere — ceva ce consilierul nu a observat până nu a fost avertizat de camera legislativă care se ocupă de proiecte de lege. Acesta a revenit pe platforma de IA pentru mai multă asistență.

Într-un interviu pentru ziarul Folha de S. Paulo, acesta a spus:

É comum vereadores, para elaborarem leis nas suas cidades, buscarem como base uma lei parecida de outra cidade com a mesma finalidade e copiarem a redação. O ChatGPT faz a mesma coisa do jeito dele, recorrendo a um banco de dados de leis que já estão na internet. Considerando que estamos falando de dinheiro público, acho que a tecnologia tem muito a contribuir

Este ceva normal pentru consilieri ca atunci când elaborează legi pentru orașele lor să caute legi similare din alt oraș pentru a le folosi ca bază și a imita modul de exprimare. ChatGPT face acest lucru de unul singur, folosind o bază de date cu legi care sunt deja pe internet. Având în vedere că vorbim despre bani publici, cred că tehnologia are o contribuție importantă.

Consilierul a fost mulțumit de una dintre propunerile originale ale IA: aceea de a scuti deținătorul proprietății de la plata facturii de apă până când apometrul este înlocuit.

„M-am gândit că este o idee bună și am păstrat-o, chiar dacă nu era a mea”, a spus acesta potrivit Matinal Jornalismo.

Rosário a dezvăluit că a folosit IA doar după ce primarul a aprobat proiectul pentru a crea dezbatere pe subiect. Deși nu există obstacole legale care să împiedice reglementări scrise de IA în legea din Brazilia, Președintele Consiliului Municipal Hamilton Sossmeier a spus pentru agenția de știri G1 că el crede că acesta este un „precedent periculos”:

Considero estranho. É a primeira vez que acontece, e não tem nenhuma lei que indique que eu não possa aprovar. Hoje, não tem nada que proíba. Mas, na minha ótica, é um precedente perigoso, complicado. Podem vir outras leis mais complexas, que gerem outros tipos de impacto. Por enquanto, fica minha preocupação pessoal.

Mi se pare ciudat. Este prima dată când se întâmplă acest lucru și nu există nicio lege care să spună că nu îl pot aproba. Acum nu este nimic care să interzică acest lucru. Dar, în opinia mea, reprezintă un precedent periculos. Este complicat. Pot urma alte legi mai complexe care să genereze un alt tip de impact. Deocamdată este doar îngrijorarea mea personală.

Potențiale riscuri

ChatGPT a fost creat de firma de tehnologie americană OpenAI și este bazat pe un model lingvistic lansat pentru public în 2022. Acesta folosește învățarea profundă pentru a genera texte scrise ca de oameni și funcționează sub forma unui robot de chat. Deși flexibilitatea și capacitățile de generare ale modelelor lingvistice ample pot ajuta la proză, poezie și programare, de exemplu, acestea provocă totodată îngrijorări cu privire la abuzuri.

În redactarea de legi, ChatGPT a fost folosit și în afara Braziliei. La începutul anului 2023, un legiuitor din Massachusetts a folosit ChatGPT pentru a scrie legislație care să controleze modelele generative de inteligență artificială. „ChatGPT ne-a oferit 70 la sută din ceea ce ne trebuia atunci când am vrut să elaborăm acest proiect de lege, dar nu ne-a ajutat până la capăt”, a spus Senatorul de Massachusetts Barry Finegold, cel care a venit cu ideea.

ChatGPT generează propoziții bazate pe setul său de date. Acesta operează în două moduri: o versiune plătită, cu o bază de date actualizată în 2023 și o versiune gratuită, setul său de date actual cuprinzând informații până în anul 2021. Pe lângă faptul că ridică semne de întrebare cu privire la drepturile de proprietate și de autor, menținerea obiectivității și evitarea părtinirii în contexte politice reprezintă o îngrijorare pentru unii observatori.

În plus, ChatGPT are un potențial uriaș de a genera dezinformare și de a „halucina”. Halucinațiile se petrec atunci când modelul de IA creează rezultate care deviază de la ceea ce este considerat a fi normal sau previzibil bazat pe datele cu care acesta a fost antrenat.

Congresul național din Brazilia analizează acum un proiect de lege care are ca scop reglementarea folosirii IA în țară. Transparența, protecția intimității și apărarea valorilor democratice trebuie respectate, potrivit versiunii actuale a proiectului.

În senatul Braziliei mai există un proiect de lege aflat în discuție, care are și acesta ca scop reglementarea inteligenței artificiale și a implementării acesteia. Acesta propune o evaluare a riscurilor înainte ca serviciul să fie disponibil în țară.