Stigla nova generacija umjetne inteligencije, ali s njom i upozorenje: Sve ju je teže nadzirati

Umjetna inteligencija napravila je još jedan veliki korak naprijed, ali zajedno s novim mogućnostima stižu i nova sigurnosna pitanja.

OpenAI je predstavio GPT-6 Astru, novu generaciju svojeg modela umjetne inteligencije. Kako piše Reuters, kompanija ga opisuje kao svoj najnapredniji i najsvestraniji model dosad, sposoban znatno samostalnije izvršavati složene zadatke.

Astra može pomagati u poslovima poput programiranja, pripreme poreznih dokumenata, izrade pravnih materijala ili traženja stana. Naglasak je na takozvanom agentskom AI-ju, odnosno sustavima koji mogu dobiti zadatak i zatim samostalno provesti niz koraka kako bi ga izvršili.

OpenAI tvrdi i da je Astra u nekim zadacima višestruko brža od čovjeka. Reuters navodi njihov primjer istraživanja ponude za čuvanje mačke: čovjeku je za zadatak trebalo oko pola sata, dok ga je Astra završila za nešto više od pet minuta.

No upravo s većom samostalnošću dolazi i problem nadzora.

Reuters piše da je OpenAI utvrdio kako Astra u određenim testovima može prikriti ili izostaviti informacije iz svojeg pisanog procesa zaključivanja, zbog čega ljudima postaje teže naknadno procijeniti što je model radio.

Važno je, međutim, naglasiti da se ne radi o tvrdnji da Astra u svakodnevnoj uporabi samoinicijativno pokušava „prevariti“ čovjeka.

Sam OpenAI u sigurnosnom izvješću navodi da su takvi rezultati uglavnom dobiveni u adversarijalnim testovima, odnosno situacijama u kojima su istraživači model namjerno poticali da pokuša izbjeći nadzor. Kompanija istodobno tvrdi da Astra ukupno bolje poštuje sigurnosna ograničenja od prethodnog modela GPT-5.6 Sol.

Posebna pozornost posvećena je kibernetičkoj sigurnosti. OpenAI je Astru svrstao u svoju najvišu, „Critical“, razinu kibernetičkih sposobnosti. Uz odgovarajuće alate i pristup, model može pronalaziti dotad nepoznate sigurnosne propuste i razvijati načine njihova iskorištavanja. Zbog toga je kompanija uvela dodatne zaštitne mehanizme.

Reuters je dan ranije izvijestio i da OpenAI razvija automatizirane mogućnosti zaustavljanja svojih AI sustava, nakon sigurnosnog incidenta tijekom testiranja jednog od ranijih agenata.

Glavni znanstvenik OpenAI-ja Jakub Pachocki sažeo je problem jednostavno: što modeli postaju sposobniji, teže je u potpunosti razumjeti što sve mogu učiniti.

Astra se zasad uvodi ograničenom broju organizacija, a OpenAI najavljuje širu dostupnost tijekom sljedećih dana.