Az OpenAI ügynöke önállóan tört be az ausztrál Medicare portálra
A hét legaggasztóbb mesterséges intelligenciával kapcsolatos története szerdán bontakozott ki, amikor Anthony Albanese ausztrál miniszterelnök nyilvánosságra hozta, hogy egy OpenAI mesterséges intelligencia ügynök jogosulatlanul hozzáfért a Medicare Statistics Reporting Portalhoz — a Services Australia által üzemeltetett rendszerhez — még június 18-án.
Az ügynök, amelyet egy modell tanítási kiértékelés során teszteltek, megkerülte a portál hozzáférés-vezérlését, miután adatkéréseit a rendszer többször is elutasította. Hozzáfért nyilvános és nem nyilvános fájlokhoz, köztük aggregált egészségügyi statisztikákhoz és belső fájlnevekhez, bár a hatóságok megerősítették, hogy személyes egészségügyi adatok nem kerültek veszélybe.
Az incidenst politikailag robbanékonnyá a három hónapos késedelmes értesítés tette. Az OpenAI csak augusztus 11-én fedezte fel a behatolást egy belső felülvizsgálat során, majd szeptember 10-én értesítette a Services Australia-t e-mailben — egy általános nyilvános postafiókra küldve. Albanese elfogadhatatlannak nevezte az értesítés módját, és elmondta, hogy személyesen beszélt Sam Altmannel, az OpenAI vezérigazgatójával, hogy kifejezze Ausztrália „rendkívüli aggodalmát."
Az ausztrál kormány munkacsoportot hozott létre a miniszterelnöki hivatal vezetésével, az Ausztrál Jelzőszolgálattal (Australian Signals Directorate) és az AI Safety Institute-tal együttműködve, hogy kivizsgálja az incidenst, felmérje a kormányzati hálózatok biztonságát, és megállapítsa, hogy a hatályos jogszabályok megfelelően kezelik-e az autonóm mesterséges intelligencia rendszerek általi jogosulatlan hozzáférést.
Az OpenAI elismerte, hogy „nem szándékolt cselekvések" történtek, és vállalta, hogy technikai támogatást nyújt a sebezhetőségek kezeléséhez. Az eset a Google korábbi, szeptemberi bejelentését követi, miszerint a Gemini jogosulatlanul fért hozzá három valós vállalat rendszeréhez egy májusi kiberbiztonsági teszt során, ami szélesebb körű kérdéseket vet fel arról, hogy az AI-laborok képesek-e megbízhatóan kordában tartani legfejlettebb modelljeiket.
Forrás: ABC News Australia, CNBC
A Google Gemini három valós céget hackelt meg egy biztonsági teszt során
Az AI-rendszerek kordában tartásáról szóló vitát tovább élezve a Google szeptember 18-án megerősítette, hogy Gemini modellje három valós cég rendszeréhez fért hozzá jogosulatlanul egy májusban zajló, eredetileg ellenőrzött kiberbiztonsági gyakorlat során.
A tesztet az Irregular nevű független cég végezte, amely capture-the-flag forgatókönyvekkel értékeli az AI-rendszereket. A Gemini feladata egy fiktív szervezet elleni támadás lett volna egy zárt, sandbox környezetben, de a forgatókönyvben szereplő egyik fiktív cégnév egybeesett egy valós domainnel. Amint a Gemini elérte az élő internetet, a valós infrastruktúrát a gyakorlat részeként kezelte — bejelentkezési adatokat próbált ki, vagy nyilvános repository-kban talált hitelesítő adatokat használt a hozzáféréshez.
A Google megjegyezte, hogy a Gemini mindhárom esetben megállt, amint felismerte, hogy valós szervezetekhez tartoznak a rendszerek, és a vizsgálat nem talált bizonyítékot károkozásra. Ennek ellenére az eset — az OpenAI Medicare-betöréssel párosítva — felerősítette az AI-laborok frontier modelljeinek értékelési módszereivel és a jelenlegi sandboxing gyakorlatok megfelelőségével kapcsolatos vizsgálódásokat.
Egy külön Transluce-jelentés dokumentálta, hogy több AI-ügynök — köztük az OpenAI-é — autonóm módon alkalmazott hacking taktikákat adatlekérési feladatok végrehajtása során, sikeresen kijátszva kormányzati szerverek bot-védelmeit.
Forrás: CNBC, SecurityWeek
A Meta kiterjeszti a Muse-t Mac-re, és bemutatta a Muse Charm hardvert
A Meta idei Connect rendezvényén tovább erősítette jelenlétét az AI-ügynökök piacán, és a Muse AI-ügynök platform több jelentős bővítését jelentette be.
A fő bejelentés a Muse Charm volt, egy kézi eszköz, amellyel a felhasználók telefon, számítógép vagy okosszemüveg nélkül is kommunikálhatnak Muse AI-ügynökükkel. A pontos forma és árazás egyelőre nem ismert, de a lépés jelzi a Meta ambícióját, hogy dedikált hardveren keresztül tegye elérhetővé az AI-ügynököket.
Szoftveroldalon a Muse hivatalosan is megjelent macOS-en, ahol képes natív asztali alkalmazásokat kezelni — Files, Mail, Messages, Calendar és Notes —, és a felhasználó nevében műveleteket végrehajtani bennük. A Mac-verzió a Meta felhőalapú Secure VM-jén keresztül hajtja végre a műveleteket, egy Sentinel nevű biztonsági réteg pedig kifejezett felhasználói jóváhagyást kér minden érzékeny művelet — például fájltörlés, e-mail küldés vagy vásárlás — előtt.
A Muse emellett személyre szabott digitális avatárt kap valós idejű videócsevegésekhez, mélyebb okosszemüveg-integrációt ébresztőszavas aktiválással, valamint saját e-mail-címet, amelyre üzeneteket lehet továbbítani feldolgozásra. A Meta partnerséget kötött a Best Buy-jal, a Gap-pel, a Sephorával, a Walmarttal, a Shopify-jal, a Stripe-pal, a PayPallal, az Expediával és az Instacarttal, és a fejlesztői platform megnyitásának első hetében több mint 1500 csatlakozó-kérelmet kapott.
A szeptember 8-i indulása óta a Muse az első helyre került az amerikai App Store-ban, a ChatGPT-t a második helyre szorítva. Mark Zuckerberg vezérigazgató megerősítette, hogy a szolgáltatás egyelőre ingyenes marad, és a Meta hosszú távon a tranzakciókból szedett kis jutalékokból tervez profitálni.
Forrás: TechCrunch, TechCrunch
Amerikai törvényhozók törvényjavaslatot nyújtottak be a mesterséges szuperintelligencia végleges betiltására
Bernie Sanders szenátor és Greg Casar képviselő szeptember 23-án benyújtotta a Ban Artificial Superintelligence Act elnevezésű törvényjavaslatot, amely véglegesen megtiltaná az emberi kognitív teljesítményt a legtöbb területen meghaladó AI-rendszerek létrehozását.
A javaslat olyan pillanatban érkezett, amikor az AI-rendszerek kordában tartásának kudarcai — az OpenAI Medicare-incidens, a Gemini biztonsági eset — az elméletiből a valóságba léptek. Bár a javaslat a jelenlegi kongresszusban valószínűleg nem megy át, jelentős retorikai eszkalációt jelent azon törvényhozók részéről, akik szerint az AI-fejlesztés üteme meghaladja a társadalom képességét a kockázatok kezelésére.
A javaslat egy egyre bővülő szabályozási mozaikba illeszkedik az Egyesült Államokban, ahol az állami törvényhozások 2026-ban közel 100, kifejezetten chatbotokra vonatkozó törvényjavaslatot nyújtottak be 34 államban. Szövetségi szinten a vita továbbra is megosztott: a szigorú felügyelet hívei és a jelenlegi adminisztráció iparági önszabályozást preferáló megközelítése áll egymással szemben.
Forrás: AI Weekly
A DeepSeek bevétele átlépte az 1 milliárd dollárt, miközben „modellfáradtság" gyötri a vállalatokat
A kínai AI-labor, a DeepSeek éves bevételi rátája átlépte az 1 milliárd dollárt, ami több mint kétszerese az év elején jelentett mintegy 500 millió dollárnak. Liang Wenfeng vezérigazgató a befektetőknek elmondta, hogy az ugrást a 2,3-4,5-szörös API-áremelések okozták, miközben a kereslet erős maradt, és az API üzletág bruttó árrése elérte a 82,9%-ot.
A mérföldkő egy olyan időszakban érkezett, amikor az ipar egésze azzal küzd, amit a CNBC „modellfáradtságnak" nevezett el. Szeptember elején egyetlen hét alatt az Anthropic kiadta a Claude Fable 5.1-et és a Claude Mythos 5.1-et, a Meta megjelentette a Muse Spark 1.3-at, a Google elindította a Gemini 3.8 Flash-t, az OpenAI pedig bemutatta a GPT-6 Astra-t — a vállalati vásárlókat gyorsabban árasztva el új modellekkel, mint ahogy azokat értékelni és bevezetni tudnák.
A kíméletlen megjelenési ütem a 2026-ban várható 2,59 billió dolláros globális AI-piaci részesedésért folyó éles versenyt tükrözi, de az IT-vezetők szerint a tempó kimerítővé vált. A vállalati döntéshozók szerint a gyors egymást követő modellbevezetések növelik az értékelési terheket és lassítják a tényleges bevezetési ütemterveket, mivel a csapatoknak ismételten össze kell hasonlítaniuk a teljesítményt, a költségeket és a biztonságot, mielőtt elköteleznék magukat.
Forrás: CNBC