Signal blochează accesul AI la conversații

Spread the love

Signal introduce măsuri care împiedică sistemele AI să acceseze conversațiile private ale utilizatorilor.

Confidențialitatea digitală devine o temă tot mai importantă pe măsură ce inteligența artificială este integrată direct în sistemele de operare. Meredith Whittaker, președinta Signal, avertizează că noile funcții AI din Windows, Android și iOS pot avea acces la informații sensibile afișate pe ecran, afectând garanțiile de confidențialitate oferite de aplicațiile de mesagerie securizată.

Signal blochează accesul AI la conversațiile utilizatorilor

Signal a anunțat că va implementa măsuri pentru a împiedica agenții AI integrați în sistemele de operare să captureze și să proceseze conținutul afișat în aplicație. Compania a folosit deja această abordare pentru a împiedica Microsoft Recall să realizeze capturi automate ale conversațiilor pe Windows 11 și intenționează să adopte mecanisme similare pe Android și iOS.

Potrivit Signal, noile capabilități AI precum Gemini pe Android și funcțiile AI asociate Siri pe iOS pot analiza informațiile de pe ecran pentru a furniza răspunsuri și automatizări utilizatorilor. Problema este că aceste date pot ajunge în sisteme externe asupra cărora aplicația nu mai are control.

De ce consideră Signal că AI-ul reprezintă un risc pentru confidențialitate

Signal susține că securitatea platformei sale este construită pe criptare end-to-end și pe o infrastructură open-source auditată de experți în securitate. Totuși, dacă sistemul de operare capturează informațiile afișate înainte ca acestea să fie protejate la nivelul aplicației, garanțiile de confidențialitate devin mai greu de menținut.

Acest fenomen apare într-un context în care tot mai multe servicii AI sunt integrate la nivel de sistem. De altfel, Uniunea Europeană a început să aplice noi obligații de transparență prin AI Act, inclusiv pentru chatboturi și conținut generat de inteligență artificială.

AI local versus AI cu acces extins la date

Dezbaterea ridicată de Signal evidențiază o diferență importantă între modelele AI care rulează local și cele care au acces la volume mari de date prin sistemul de operare.

Pentru a înțelege mai bine această tendință, poți citi și:

Aceste tehnologii încearcă să reducă dependența de cloud și să păstreze procesarea datelor cât mai aproape de utilizator, limitând expunerea informațiilor personale.

Signal cere măsuri din partea Apple, Google și Microsoft

Compania solicită dezvoltatorilor sistemelor de operare să ofere instrumente clare prin care aplicațiile să poată refuza accesul agenților AI la datele utilizatorilor. De asemenea, Signal cere documentație tehnică mai detaliată privind modul în care aceste sisteme colectează, procesează și stochează informațiile.

Potrivit companiei, lipsa unor mecanisme standardizate face dificilă protejarea completă a utilizatorilor împotriva accesului AI la date sensibile.

Viitorul confidențialității în era AI

Integrarea inteligenței artificiale în Windows, Android și iOS promite experiențe mai inteligente și mai automate, însă aduce și provocări importante privind protecția datelor. Signal avertizează că fără reguli clare și controale eficiente, agenții AI pot deveni o amenințare pentru confidențialitatea aplicațiilor și a utilizatorilor.

Pe măsură ce AI-ul devine o componentă esențială a sistemelor de operare, echilibrul dintre funcționalitate și protecția vieții private va reprezenta una dintre cele mai importante provocări ale industriei tehnologice în următorii ani.

Leave a Comment

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *

Scroll to Top