Az AI-vállalatok biztonságának megkérdőjelezett állapota
A mesterséges intelligencia (AI) jelentősen befolyásolja mindennapi életünket, de vajon elegendő erőfeszítést tesznek a vezető AI-vállalatok a termékeik által okozott potenciális károk elhárítására? A válasz a francia és belga nonprofit szervezetek, a SaferAI és a Future of Life Institute szerint: ‘nem’. A közelmúltban kiadott jelentésük részletesebb információkat nyújt erről a kérdésről.
A biztonsági értékelések eredményei
A Future of Life Institute legutóbbi jelentésében megállapította, hogy ‘a jelenlegi stratégiák minden vállalat számára elégtelenek ahhoz, hogy biztosítsák, hogy ezek a rendszerek biztonságosak és emberi ellenőrzés alatt maradjanak.’ Ezen túlmenően a SaferAI értékelése is arra utal, hogy ‘még a legjobb AI-vállalatok is viszonylag gyenge eredményeket produkáltak’ a kockázatkezelés terén.
Mindkét szervezet támogatását Jaan Tallinn, az észt milliárdos és a Skype társalapítója biztosítja, aki az ‘effektív altruizmus’ mozgalom részeként azzal érvel, hogy az AI létezésünkre nézve fenyegetést jelent.
Különösen kritikus időszak
A gyenge értékelések a február 10-11-én Párizsban megrendezésre kerülő AI Akciós Csúcs előtt érkeztek, amelyen világ vezetői, technológiai milliárdosok és civil szervezetek képviselői gyűlnek össze, hogy közösen dolgozzanak ki egy nyilatkozatot az AI politikájának jövőjéről. Ez a francia diplomáciai kalendárium egyik legfontosabb eseménye 2025-ben, és kulcsszerepet játszik abban, hogy a világ képes lehet együttműködni a rendkívül erőteljes technológiák szabályozásában.
Chloé Touzet nyilatkozata
A Tech 24 műsorában Chloé Touzet, a SaferAI politikai vezetője hangsúlyozta, hogy Franciaország AI sikerágazatának, a Mistralnak különösen gyenge helyezést ért el a rangsorban, mivel ‘nagyon kevés információ áll rendelkezésre’ a kockázatkezelési politikájukról.
Touzet megemlítette, hogy a San Francisco-i Anthropic ‘gyenge’ értékelést kapott, annak ellenére, hogy együttműködőbb hírnevével büszkélkedhet a szabályozókkal; ez részben annak tudható be, hogy hiányzik a ‘kockázattolerancia világos nyilatkozata’, amely meghatározza, ‘mennyi kockázatot hajlandóak vállalni’.
A Mistral és az Anthropic képviselőit megkeresték a helyzet kommentálására, de eddig nem érkezett válasz.
Következtetés
A mesterséges intelligencia fejlődése során a biztonság és a kockázatkezelés kérdései kiemelt figyelmet érdemelnek. Ahogy világunk egyre inkább függ az AI technológiáktól, úgy az iparág vezető cégeinek is prioritásként kell kezelniük a felmerülő problémákat, hogy a jövőbeli kihívásokat sikeresen kezelhessék. A közelgő AI Akciós Csúcs lehetőséget teremt arra, hogy a globális közösség együtt keressen megoldásokat ezen kulcsfontosságú kérdésekre.
