Conform Descopera: Conversațiile cu ChatGPT, expuse evaluărilor umane
Conversațiile purtate cu inteligența artificială ChatGPT nu sunt private, utilizatorii riscând ca discuțiile lor să fie citite de persoane din afara companiei OpenAI. Centrul problemelor este programul „Project Lily”, prin care sute de angajați analizează dialogurile reale dintre oameni și IA. Scopul declarat al companiei OpenAI este de a îmbunătăți performanța ChatGPT, însă criticii atrag atenția asupra posibilelor încălcări ale intimității.
Sute de evaluatori analizează discuțiile utilizatorilor
Potrivit informațiilor dezvăluite de 404 Media și preluate de Nexta, OpenAI a recrutat numeroase persoane pentru a studia conversațiile utilizatorilor cu ChatGPT. Acești evaluatori au acces la discuții complete, inclusiv la potențiale informații personale sau sensibile. Sarcina lor este de a evalua răspunsurile rețelei neuronale și de a corecta comportamente nedorite, cum ar fi o afabilitate excesivă sau o tendință de „umanizare” a IA.
Compania susține că, înainte ca aceste conversații să ajungă la evaluatori, se încearcă eliminarea automată a datelor personale. De asemenea, se precizează că evaluatorii nu au acces la numele utilizatorilor. Cu toate acestea, OpenAI recunoaște că sistemul de filtrare nu este perfect și anumite detalii private pot ajunge să fie vizibile.
Îngrijorări privind protecția datelor
Criticii și experții în securitate cibernetică își exprimă îngrijorarea cu privire la riscul ca informațiile personale ale utilizatorilor să fie expuse. Persoanele care au ales să discute liber cu ChatGPT, destăinuind aspecte personale sau confidențiale, riscă ca aceste informații să fie văzute de persoane străine, chiar dacă acestea sunt angajate de companie.
Angajarea acestor evaluatori se realizează, printre altele, prin intermediul agențiilor de recrutare precum Mercor și Crossing Hurdles. Aceștia sunt instruiți să identifice și să corecteze anumite tipologii de răspunsuri ale IA, contribuind astfel la dezvoltarea și securitatea platformei. Totuși, aspectul legate de confidențialitatea datelor rămâne un punct nevralgic.
Proiectul „Project Lily” subliniază complexitatea dezvoltării inteligenței artificiale și echilibrul delicat între îmbunătățirea funcționalităților și respectarea vieții private a utilizatorilor.
Sursa: Descopera
