Manipulările ChatGPT şi AI: cum să facem faţă alterării datelor asistentului AI

Ar trebui să vă gândiți de două ori înainte de a avea încredere totală în asistentul dvs. AI, deoarece alterarea bazei de date îi poate modifica semnificativ rezultatele – chiar periculos de mult, acertizează un articol publicat recent pe blogul de specialitate al producătorului de soluţii antivirus Eset.

Tehnologia modernă este departe de a fi infailibilă

Modelele AI sunt construite pe seturi de date esențiale de antrenament, care sunt actualizate continuu prin învățare supravegheată și nesupravegheată, scrie Mark Szabo, analist de securitate cibernetică la Eset.

Învățarea automată (machine learning) este o metodă critică ce permite dezvoltarea AI, iar învățarea profundă (deep learning), printre altele, contribuie la dezvoltarea capacităților diverse ale AI. Cu cât datele sunt mai variate și mai fiabile, cu atât vor fi mai precise și utile rezultatele modelului. Prin urmare, în timpul antrenamentului, aceste modele au nevoie de acces la cantități mari de date.

Pe de altă parte, dependența de volume mari de date vine cu riscuri, deoarece seturile de date neverificate sau slab verificate cresc probabilitatea unor rezultate nesigure. Inteligența artificială generativă, în special modelele mari de limbaj (LLM) și ramificațiile acestora sub formă de asistenți AI, sunt cunoscute a fi deosebit de vulnerabile la atacuri care alterează modelele în scopuri malițioase.

07:39, 04.02.2025 • Internațional

Educația se reformează cu adevărat. Se introduce AI în școli. Dar, nu în România

15:23, 03.02.2025 • TEHNOLOGIE

Inteligența Artificială ne va dezvălui, curând, cum arată Sfârșitul Universului

Una dintre cele mai insidioase amenințări este alterarea datelor (sau a bazei de date), prin care adversarii încearcă să modifice comportamentul modelului și să-l determine să genereze rezultate incorecte, părtinitoare sau chiar dăunătoare.

Tipuri de alterare a datelor

• Injectarea datelor: Atacatorii injectează puncte de date malițioase în seturile de date de antrenament pentru a face modelul AI să-și modifice comportamentul.
• Atacuri din interior: La fel ca în cazul amenințărilor din interior obișnuite, angajații ar putea abuza de accesul lor pentru a modifica setul de antrenament al unui model, schimbându-l pas cu pas pentru a-i modifica comportamentul.
• Injectarea unui trigger: Acest atac injectează date în setul de antrenament al modelului AI
• Atacuri asupra lanțului de aprovizionare: Deoarece modelele AI folosesc adesea componente de la terți, vulnerabilitățile introduse în timpul procesului de aprovizionare pot compromite în cele din urmă securitatea modelului și îl pot lăsa expus exploatării.

Strategiile preventive pentru modelele AI necesită o conștientizare atât din partea dezvoltatorilor, cât și a utilizatorilor. Strategiile-cheie includ:

• Verificări și audituri constante: Este important să verificați și să validați continuu integritatea seturilor de date care alimentează modelele AI pentru a preveni manipulările malițioase sau datele părtinitoare care le-ar putea compromite.
• Concentrați-vă atenția pe securitate: Dezvoltatorii AI pot deveni ținte ale atacatorilor, așa că este esențial să existe o configuraţie de securitate care să adopte o abordare preventivă
• Antrenamentul împotriva datelor modificate intenționat
• Principiul zero trust și gestionarea accesului: Pentru a vă apăra împotriva amenințărilor interne și externe, este recomandat să folosiți o soluție de securitate care poate monitoriza accesul neautorizat la datele fundamentale ale unui model. Astfel, comportamentele suspecte pot fi detectate și prevenite mai ușor. În plus, prin principiul zero trust, nimeni nu este considerat de încredere din oficiu, fiind necesare multiple verificări înainte de a acorda accesul.