MAUNTIN VJU – Američka tehnološka kompanija Google objavila je danas da se njen najnapredniji sistem vještačke inteligencije Džeminaj (Gemini) našao na meti digitalnih napadača.
Oni su koristili desetine hiljada pažljivo osmišljenih upita kako bi otkrili način na koji model funkcioniše.
U jednom zabilježenom slučaju, napadači su uputili više od 100.000 upita prije nego što je Google shvatio šta se dešava i postavio bolju zaštitu, prenosi NBC njuz.
Suština ovog problema je u tome što konkurencija želi da iskopira način na koji Džeminaj razmišlja i donosi zaključke, a da pritom ne potroši milijarde dolara na sopstveni razvoj. Umjesto toga, oni koriste odgovore koje im Džeminaj daje kako bi otkrili njegovu unutrašnju logiku i napravili sopstvene, jeftinije verzije istog programa, što Google označava za krađu intelektualne svojine.
Kompanija je navela da su mnogi napadi bili usmjereni na razotkrivanje algoritama koji omogućavaju AI modelu Džeminaj da odluči kako da obradi i poveže informacije. Portparol Googlea rekao je za NBC njuz da iza napada vjerovatno stoje privatne firme i istraživači koji pokušavaju da steknu prednost na tržištu, ali nije otkrio detalje o identitetu aktera i zemljama iz kojih dolaze napadi.
Problem je u tome što se ovi napadi veoma teško razlikuju od običnih korisnika koji su samo veoma znatiželjni ili koriste vještačku inteligenciju za ozbiljan posao. Napadači su postali veoma vješti u maskiranju svojih namjera, tako da šalju upite sa različitih lokacija i u različito vrijeme kako ne bi skrenuli pažnju na sebe. Zbog toga inženjeri moraju stalno da nadograđuju zaštitne sisteme i koriste još naprednije alate kako bi prepoznali trenutak kada neko pokušava da prevari mašinu, a ne samo da dobije koristan odgovor. (Agencije, Foto Freepik)
