I širom otvorili vrata hakerima da bez razbijanja šifri, na prilično jednostavan način (npr. prompt injection-om) prikupljaju zanimljive podatke.
Podmetanje zlonamernih instrukcija (prompt injection) predstavlja novu vrsta napada koja koristi činjenicu da AI alati ne prave razliku između sadržaja koje pronalaze na internetu. Napadač zato može da sakrije posebne poruke u veb stranicu – čovek ih ne vidi, ali AI alat može da ih pročita i posluša. Dovoljno je da AI pregledač poseti tako kompromitovanu stranicu, pa da ga skrivena instrukcija navede na neprimereno ponašanje.
Nisam (još) naišao na takav primer, ali ne vidim zašto napadači ne bi odmah, na ovaj način, pokupili sve prijavne linkove, korisničke naloge i šifre koje, najčešće, pohranjujemo baš u pregledačima (da bi nam onlajn život bio što jednostavniji i pristup onlajn servisima i aplikacijama što brži).
Činjenica je da komoditet (skoro) uvek stavljamo iznad bezbednosti, pa da li je došlo vreme da ozbiljnije razmotrimo takav pristup? Da li i koliko zaista smemo da verujemo AI pregledačima?