A mesterséges intelligencia fejvesztett tempója és a kontroll alól kicsúszó modellek miatt már a legnagyobb fejlesztők is a fékre lépnének – köztük az OpenAI vezérével.

Mi történt? A Bloomberg írta meg, hogy az OpenAI vezérigazgatója, Sam Altman a héten egy megbeszélésen közölte a munkatársakkal:

a cég nyitott a mesterségesintelligencia-rendszerei fejlesztésének lelassítására.

Miért fontos ez? A hír a fejlett MI-rendszerek biztonságával kapcsolatos, egyre növekvő aggodalmak közepette érkezett.

• Nemrég maga az Anthropic vezető kutatója jelentette ki, hogy szerinte 10 százaléknál is nagyobb az esélye, hogy az MI kipusztítja az emberiséget a következő tíz évben.
• Emellett több olyan incidens is történt a közelmúltban, amely során a fejlesztők – köztük az OpenAI – MI-modelljei kikerültek az emberi ellenőrzés alól. Ezek az esetek riadalmat keltettek, és szigorúbb biztonsági szabályozást sürgetnek.
• Augusztusban az OpenAI két hétre fel is függesztette fejlesztéseinek nagy részét, hogy megerősítse védelmi rendszereit, miután MI-ágensei kijutottak a zárt környezetből, és feltörték a nyílt forráskódú Hugging Face platformot.

Mit jelent ez a gyakorlatban? A Bloomberg forrásai szerint Altman most elmondta a munkatársaknak, hogy a ChatGPT készítője a többi MI-laboratóriummal összhangban szabályozhatná a fejlesztés ütemét, ám ezzel nem mindenki ért egyet.

Kontextus. Jacob Coxon, az Anthropic és az OpenAI korábbi kutatója a hét elején nyilvánosan azzal vádolta a cégeket, hogy felelőtlenül száguldanak az MI fejlesztésében.

Az Anthropic szóvivője csütörtökön kijelentette: a cég érdekelt abban, hogy az iparág egészével együttműködve határozzák meg az új MI-eszközök kibocsátásának ütemét.

Az OpenAI még júliusban közölte, hogy az élvonalbeli modellek fejlesztésének felgyorsulása olyan mértékű lehet, hogy a világ egy ponton „kénytelen lesz mederben tartania az MI fejlődésének ütemét”.

Hogyan tovább? Az OpenAI szerdán közölte: kötelező érvényű, nemzeti MI-biztonsági követelmények bevezetését szorgalmazza az Egyesült Államokban.

The post Lassan a teszttel! Ez a hét legforróbb témája a mesterséges intelligenciában appeared first on Forbes.hu.