Ce control au părinții asupra ChatGPT, Gemini și Claude. Ghidul unui arhitect de sisteme AI

Mircea Șerdin, arhitect de sisteme AI și consultant IT, a verificat ce control au părinții asupra felului în care copiii folosesc cei mai populari chatboți: ChatGPT, Gemini și Claude. Concluzia lui, publicată marți dimineață pe Facebook sub forma unui ghid pentru părinți, e una rece: „Veștile nu sunt foarte grozave.”

Ghidul pornește de la o regulă pe care cele trei companii o au în comun. „Niciuna dintre cele trei nu acceptă copii sub 13 ani cu cont propriu, oficial. Realitatea însă este că și copii mai mici îl folosesc, mai ales dacă au dispozitive proprii cu acces la internet. Mai rău este că își fac direct conturi de adulți”, scrie Șerdin. Un cont de adult scoate copilul din orice filtru gândit pentru minori. Organizația americană Common Sense Media a constatat recent că ChatGPT nu a trecut la protecțiile pentru adolescenți nici atunci când utilizatorul unui cont înregistrat ca adult a repetat că are 13 ani.

ChatGPT: cel mai lung meniu de setări

Dintre cele trei, ChatGPT oferă cele mai multe opțiuni pentru părinți. Pentru a le folosi, atât părintele, cât și copilul au nevoie de cont. Din contul părintelui, calea este Settings, apoi Parental Controls și Add a family member. Părintele introduce adresa de e-mail a copilului și alege opțiunea „My child”, iar copilul trebuie să accepte invitația primită pe e-mail.

Șerdin preia recomandările Common Sense Media, care a trecut prin toate setările. Filtrul pentru conținut sensibil (Reduce Sensitive Content) trebuie să rămână pornit, iar generarea de imagini se oprește. Tot oprită trebuie să fie și folosirea conversațiilor la antrenarea modelelor. „Conversațiile copilului n-au de ce să antreneze următorul model”, notează autorul. Ghidul mai recomandă intervalul de liniște (Quiet Hours) între orele 22:00 și 7:00 și activarea notificărilor de siguranță.

Memoria conversațiilor rămâne la decizia părintelui. „Ajută la teme, dar face AI-ul să pară un prieten care «își amintește» de el”, explică Șerdin. Controlul are o limită clară, pe care autorul o rezumă într-o frază: „Conversațiile nu le vedeți, doar setările.” Potrivit documentației OpenAI, adolescentul poate rupe oricând legătura cu contul părintelui, iar părintele primește o notificare.

Alertele care n-au sunat

Notificările de siguranță au fost testate în octombrie de Youth AI Safety Institute, structura Common Sense Media dedicată siguranței copiilor în relația cu inteligența artificială. Institutul a rulat peste 4.000 de mesaje-test și a încadrat ChatGPT for Teens la „risc inacceptabil”. Într-un test dedicat, cercetătorii au legat peste o duzină de conturi de adolescenți de conturi de părinți. Pe aceste conturi au discutat cu chatbotul până la o oră despre sinucidere, autovătămare și tulburări alimentare, iar părinții nu au primit nicio alertă. Cele câteva alerte înregistrate în restul testelor au venit doar pe conturi cu săptămâni de conversații pe teme sensibile în istoric. Organizația a cerut OpenAI să suspende accesul adolescenților până la remedierea problemelor.

OpenAI contestă metodologia. Compania susține că o mare parte din teste s-ar fi putut încheia înainte ca setările parentale să devină active, proces care poate dura câteva ore după legarea conturilor. Common Sense Media răspunde că unele conturi testate erau legate de mai mult de trei ore și își menține concluziile.

Gemini: Family Link se oprește la granița UE

Google are pentru copii setul de control Family Link, prin care părinții pot porni sau opri accesul la Gemini pentru un cont supravegheat. Potrivit paginii de ajutor Google, aplicațiile Gemini nu sunt disponibile pentru conturile supravegheate din Spațiul Economic European, Elveția și Marea Britanie. Părinții din România rămân cu o variantă de rezervă.

Șerdin recomandă verificarea, împreună cu copilul, a secțiunii Gemini Apps Activity din myactivity.google.com, unde se poate decide ce rămâne salvat din conversații. „Pentru adulți recomand de obicei să închideți de tot trackingul activității, însă pentru conturi de copii, linkul de mai sus ar trebui să arate toate prompturile introduse în Gemini. Chiar și dezactivat, ar trebui să arate discuțiile cu Gemini din ultimele 72 de ore”, scrie acesta.

Claude: interzis sub 18 ani

Anthropic, compania care dezvoltă Claude, a ales regula cea mai strictă. Termenii de utilizare cer vârsta de 18 ani, iar compania nu are o versiune pentru adolescenți. Conturile pe care sistemele Anthropic le suspectează că aparțin unui minor sunt suspendate până la verificarea vârstei. Verificarea trece prin furnizorul extern Yoti, cu un selfie sau cu un act de identitate, iar compania primește doar rezultatul. Sistemul a avut și erori: din primăvară, mai mulți utilizatori adulți au reclamat că le-au fost suspendate conturile după ce au fost considerați, din greșeală, minori.

Pentru părinții care vor totuși ca un copil să folosească Claude, Șerdin vede o singură variantă: „pe contul vostru, cu voi lângă”.

„Setările sunt ca o centură de siguranță”

Autorul ghidului rezumă situația într-o frază: „Trei companii, trei filozofii, zero standard comun.” Nici cel mai complet set de controale nu închide toate breșele. „Un copil inventiv își face al doilea cont, nelegat de al vostru, în două minute”, avertizează Șerdin.

„Setările sunt ca o centură de siguranță. Trebuie pusă, însă de-acolo până la a ști să conduci mașina e cale lungă.”

Ghidul se încheie cu o întrebare pentru părinți, la care setările nu au răspuns: „Voi știți pe ce cont, al vostru sau al lui, își face copilul temele cu AI-ul?”