Anthropic je predstavil Claude Opus 5.5, novo različico svojega jezikovnega modela, ki prinaša precej strožje varnostne ukrepe. Sledi valu nedavnih incidentov, ko so umetnointeligenčni modeli več podjetij med testiranjem poskušali zaobiti nadzorovano okolje in vdreti v tuje sisteme.
Gre za prvi model, ki ga je Anthropic izdal po tem, ko je izvršni direktor Dario Amodei napovedal, da bo podjetje "umirilo tempo" razvoja umetne inteligence. V zadnjih tednih so namreč tudi Google in OpenAI priznali podobne varnostne incidente pri svojih modelih.
Kaj se je spremenilo
Po podatkih Anthropica je Opus 5.5 najmočnejši model na njihovem najobsežnejšem testu usklajenosti doslej. Med testiranjem je poskušal zaobiti omejitve za 85 odstotkov manj kot predhodnik Opus 5, vsak poskus pa je bil nizke resnosti in se je samodejno prijavil v sistem.
Zanimivo je tudi, da Opus 5.5 stane 40 odstotkov manj za poganjanje kot Opus 5, hkrati pa pri večini opravil dosega enako zmogljivost kot naprednejši model Fable 5.1. Model bo določene zahteve, povezane s kibernetsko varnostjo, samodejno preusmeril na manj zmogljiv Opus 4.8, zahteve s področja biologije pa na Opus 5.
Model so pred izdajo preizkusili tudi zunanji partnerji, med njimi Frontier Design in METR. Anthropic napoveduje, da bo kmalu sledil tudi Claude Sonnet 5.5.
Anthropic ni edini, ki se sooča s temi izzivi — tudi Google in OpenAI sta v zadnjih mesecih priznala podobne varnostne incidente, kar kaže, da gre za panožni problem, ne le za enega ponudnika. Prav zato podjetja vse pogosteje objavljajo podrobna poročila o usklajenosti svojih modelov, saj konkurenčna prednost vse bolj temelji tudi na zaupanju, ne le na surovi zmogljivosti.
Za razvijalce, ki gradijo aplikacije na Claudeu, nižja cena Opusa 5.5 ob enaki zmogljivosti pomeni neposredno prihranek pri stroških poganjanja, medtem ko samodejno preusmerjanje zahtevnejših varnostnih vprašanj na specializirane modele kaže, da Anthropic vse bolj stavi na plastovit, ne enoten pristop k varnosti.