Google Gemini, asistentul virtual cu inteligență artificială, devine mai empatic și mai sigur pentru utilizatori
Google a anunțat recent o actualizare importantă pentru Gemini, asistentul virtual cu inteligență artificială. Noua funcție permite detectarea situațiilor în care utilizatorii pot avea nevoie de sprijin pentru sănătate mintală, redirecționându-i către resurse de ajutor în mod automat. Inovația vizează creșterea siguranței în interacțiunile online, mai ales în momentele de criză, și oferă un răspuns mai responsabil din partea tehnologiei.
Această funcție inovatoare a fost dezvoltată pentru a recunoaște semnele potențiale ale unei crize, cum ar fi gândurile de sinucidere sau auto-vătămare. În cazul identificării unor indicii, sistemul inițiază afișarea unei interfețe speciale, denumită „one-touch”, care conectează utilizatorul în cel mai scurt timp cu resursele de intervenție disponibile, de exemplu liniile de suport sau serviciile de urgență.
Potrivit companiei Google, AI-ul Gemini a fost antrenat astfel încât să încurajeze utilizatorii să caute ajutor atunci când simt nevoia. Echipele de specialiști în domeniul clinic, de securitate și inginerie monitorizează constant sistemul pentru a asigura o prioritate a siguranței, evitând interpretările greșite sau reacțiile nepotrivite, și pentru a oferi răspunsuri mai bune. În plus, dezvoltatorii au implementat măsuri speciale pentru a preveni încurajarea dependenței emoționale față de inteligența artificială.
„Deși Gemini poate fi un instrument util pentru învățare și obținerea de informații, nu înlocuiește îngrijirea clinică profesională, terapia sau sprijinul în criză pentru cei care au nevoie. De aceea am antrenat modelul să ajute la recunoașterea momentului în care o conversație ar putea semnala că o persoană se află într-o situație acută de sănătate mintală și să răspundă corespunzător, îndrumând-o către ajutor din lumea reală”, afirmă Google.
Protecții speciale pentru segmentul minorilor și prevenirea abuzului de AI
Compania a subliniat că au fost puse în aplicare măsuri speciale pentru a proteja și segmentul minorilor. Una dintre acestea vizează limitarea capacității AI de a acționa ca o „persoană”, astfel încât Gemini să nu poată fi confundat cu un companion real. Scopul acestei măsuri este prevenirea dependenței emoționale sau a încrederii excesive în inteligența artificială, mai ales în cazul persoanelor tinere.
De asemenea, Google a implementat controale pentru a combate bullying-ul și pentru a preveni încurajarea comportamentelor nesănătoase. Toate aceste tehnologii sunt menite să mențină un echilibru între oferirea de sprijin utilizatorilor și asigurarea unui mediu online sigur.
Viitorul asistenților virtuali în sprijinul sănătății mintale
Lansarea acestor funcții în cadrul Gemini semnalează o direcție clară în dezvoltarea asistenților virtuali: ei trebuie să devină parteneri de încredere, capabili să identifice probleme serioase și să acționeze responsabil. Într-un context în care problemele de sănătate mintală devin tot mai prezente în societate, tehnologia joacă un rol tot mai important în prevenție și intervenție.
Google afirmă că aceste setări speciale pentru crize și protecții pentru minor inițiate sunt parte dintr-un proces continuu de dezvoltare, pentru a face asistenții virtuali mai siguri și mai empatici. La momentul actual, compania nu a anunțat o dată precisă pentru o implementare pe scară largă, dar se știe că testele sunt în desfășurare și vor fi extinse în următoarea perioadă.
