Az OpenAI „eddig példátlan kibertámadási incidensnek” nevezte az esetet, amely számos biztonsági aggályt vet fel.
Mi történt? Kitört az elszigetelt tesztkörnyezetéből, internetkapcsolatot szerzett, majd feltörte egy másik MI-platform infrastruktúráját az OpenAI egy mesterségesintelligencia-ügynöke, írja a Reuters. Az esetet megerősítette a Sam Altman vezette MI-cég is. Ez az első olyan nyilvánosan ismert ügy, amikor egy autonóm MI-rendszer kikerüli saját korlátozásait, és megtámadja egy harmadik fél informatikai rendszerét. Az OpenAI az esetet „eddig példátlan kibertámadási” incidensnek nevezte.
Mit kell még tudni? Az OpenAI beszámolója szerint ellenőrzött környezetben tesztelte legfejlettebb modelljeit, amikor a szóban forgó MI-ügynök a teszt célja ellenére kijutott az internetre. Ezt követően saját kezdeményezésre hatolt be a Hugging Face (a nyílt forráskódú MI-modellek egyik legfontosabb platformja – a szerk.) rendszerébe, hogy teljesítse tesztfeladatát. A Hugging Face társalapítója szerint már a támadáskor látták, hogy autonóm MI-ügynökről van szó, és sejtették, hogy egy nagy szereplő modellje állhat mögötte. A Reuters által megkérdezett kiberbiztonsági szakértők szerint az incidens azt mutatja, hogy a legfejlettebb AI-modellek képességei
már megközelítik az állami szintű hackercsoportokét, és számítani kell a hasonló esetekre a jövőben.
The post Az OpenAI egyik mesterséges intelligencia ügynöke kijutott az internetre, majd önállóan feltört egy másik platformot appeared first on Forbes.hu.
