VON DER LEYEN ȘI HILLARY CLINTON SPRIJINĂ UN NOU DEMERS PENTRU SIGURANȚA AI PENTRU COPII

Ursula von der Leyen, președintele Comisiei Europene, colaborează cu Hillary Clinton, fosta secretar de stat al Statelor Unite, și cu prim-ministrul danez Mette Frederiksen pentru a promova un nou institut dedicat evaluării siguranței aplicațiilor de inteligență artificială (AI) pentru minori. Această inițiativă vizează în special analiza modului în care tehnologiile AI pot influența sănătatea tinerilor și stabilirea unor standarde eficiente în acest domeniu.

INSTITUTUL DE SIGURANȚĂ AI PENTRU TINERET

Noul Institut de Siguranță AI pentru Tineret va funcționa ca un organism de reglementare, având responsabilitatea de a dezvolta standarde și metode de evaluare a siguranței produselor bazate pe AI destinate copiilor. În plus, institutul va furniza evaluări detaliate privind utilizabilitatea acestor aplicații în contextul tinerilor utilizatori.

CONTEXTUL INIȚIATIVEI

Demersul vine într-o perioadă în care efectele rețelelor sociale și ale tehnologiilor emergente asupra sănătății mintale a minorilor au devenit o problemă de îngrijorare tot mai mare, determinând propuneri legislative care vizează restricționarea accesului tinerilor la aceste platforme. Un sondaj realizat de POLITICO a relevat că trei dintre patru cetățeni europeni cred că guvernele ar trebui să impună limite de vârstă pentru utilizarea rețelelor sociale.

PRIORITATEA LUI VON DER LEYEN

Ursula von der Leyen a evidențiat importanța siguranței online pentru copii, desemnând-o ca o prioritate esențială a mandatului său. Institutul va fi lansat oficial la Copenhaga, în cadrul unei prezentări în care von der Leyen va susține un discurs dedicat acestui subiect. Printre susținători se numără și fosta comisar europeană Margrethe Vestager, precum și cercetătorul renumit Yoshua Bengio, recunoscut ca fiind unul dintre părinții inteligenței artificiale moderne.

ROLUL EXPERTIZEI ÎN EVALUAREA PRODUSELOR AI

Specialiștii implicați în acest institut vor evalua produsele AI pentru a informa părinții și autoritățile cu privire la riscurile potențiale asociate cu utilizarea acestora de către copii. Institutul este gestionat de organizația non-profit Common Sense Media, care are expertiza necesară pentru a testa filme, cărți și jocuri, oferind evaluări de vârstă corespunzătoare.

FOCUS PE RISCURILE SEVERE

Bruce Reed, responsabilul departamentului de AI de la Common Sense Media, a declarat că prima etapă de standardizare se va concentra asupra riscurilor cele mai grave, inclusiv riscurile de suicid, auto-vătămări, tulburări alimentare și influențe negative potențiale.

UN PAS CURAJOS ÎN PROTECȚIA COPIILOR

Margrethe Vestager a caracterizat această inițiativă drept un demers curajos pentru monitorizarea și evaluarea efectelor negative posibile ale inteligenței artificiale asupra copiilor, sugerând că este imperativ să ne asumăm responsabilitatea de a analiza aceste riscuri în loc să ne abținem de la utilizarea tehnologiei.

COLABORĂRI ȘI SURSE DE FINANȚARE

Evaluările vor fi realizate în colaborare cu laboratoare de cercetare din San Francisco, precum și cu organizații non-profit care se ocupă de inovațiile în sănătatea mintală, cum ar fi Humane Intelligence și Stanford Brainstorm. Finanțarea acestui institut va fi asigurată prin contribuții de la filantropi, fonduri de hedging și investitori de capital de risc, incluzând companii ca Anthropic, Pinterest și fundația OpenAI.

AUTONOMIE ÎN EVALUARE

Referitor la îngrijorările că firmele de tehnologie ar putea influența activitatea institutului, Bruce Reed a reafirmat că finanțatorii nu au niciun cuvânt de spus în procesul de evaluare sau în rezultatele acesteia. Institutul își va menține angajamentul de a oferi evaluări transparente și precise asupra riscurilor pe care produsele tehnologice le pot reprezenta pentru tineri.

REGULAMENTELE EUROPENE ÎN DOMENIUL AI

Comisia Europeană analizează prezentarea unor orientări pentru utilizarea asistenților AI, cadrul legal fiind acoperit de Legea privind serviciile digitale, o problemă esențială subliniată de Martin Harris-Hess, oficial UE responsabil cu protecția minorilor.