Kanada mesterséges intelligencia minisztere, Evan Solomon magyarázatot követel az OpenAI-tól, amiért a cég nem értesítette a rendőrséget egy felhasználó fiókjának felfüggesztése után, aki később egy súlyos iskolai lövöldözést követett el. A miniszter „mélyen nyugtalanítónak” találja, hogy a ChatGPT-t is működtető cég 2025 júniusában felfüggesztette Jesse Van Rootselaar fiókját „erőszakos tevékenységek elősegítése” miatt, de nem értesítette a kanadai rendőrséget.
A tragédia
Február 10-én a 18 éves Jesse Van Rootselaar nyolc embert ölt meg a British Columbia állambeli Tumbler Ridge városában. Az áldozatok között öt 12-13 éves diák és egy 39 éves tanársegéd volt. Mielőtt az iskolára támadt, Van Rootselaar megölte édesanyját és féltestvérét a közeli otthonukban. A Wall Street Journal szerint a lövöldöző több napon keresztül erőszakos, fegyveres forgatókönyveket írt le a ChatGPT-nek, amit egy automatikus felügyeleti rendszer jelzett is.
Az OpenAI reakciója
A San Franciscó-i székhelyű technológiai vállalat szerint azonban a fiók aktivitása nem mutatott „hiteles vagy küszöbön álló tervezést”, ezért a fiókot letiltották, de nem értesítették a kanadai hatóságokat. Solomon elmondta, hogy a hétvégén felvette a kapcsolatot az OpenAI-jal, hogy találkozót szervezzenek Ottawában, és elvárja, hogy a cég legfontosabb biztonsági képviselői elmagyarázzák, hogyan döntenek az esetek továbbításáról a rendőrség felé. A találkozóra a tervek szerint kedden kerül sor, ahol a miniszter tájékoztatást vár a cég biztonsági protokolljairól, és arról, hogy milyen küszöbértékek alapján értesítik a rendőrséget.
A kanadai kormányzat lépései
A kanadai szövetségi kormány jelenleg mérlegeli, hogy miként szabályozza – ha egyáltalán szabályozza – a népszerű mesterséges intelligencia chatbotok használatát, beleértve azt is, hogy a kiskorúak milyen mértékben használhatják szabadon a termékeket. A Wall Street Journal korábban arról számolt be, hogy a technológiai vállalat munkatársai tavaly fontolóra vették a Kanadai Királyi Lovasrendőrség (RCPM) értesítését Van Rootselaar tevékenységeivel kapcsolatban. Az OpenAI közleményében azt állította, hogy az iskolai lövöldözésről értesülve felvették a kapcsolatot az RCPM-mel, és információkat adtak át a személyről és a ChatGPT használatáról. Van Rootselaar a Roblox nevű játékot is használta egy fegyverekkel teli virtuális bevásárlóközpont létrehozására, ahol a játékosok lelőhették egymást a Tumbler Ridge-i támadás előtt.
A tartományi kormányzat reakciója
Bár a cég proaktív lépésként mutatta be az RCPM megkeresését, az ügy kezelése ennek ellenére kritikát váltott ki. British Columbia tartományi kormánya megerősítette, hogy bár az OpenAI képviselője a lövöldözés után egy nappal találkozott a tisztviselőkkel egy előre tervezett megbeszélésen, a cég nem fedte fel, hogy hónapokkal korábban felfüggesztette a lövöldöző ChatGPT-fiókját annak erőszakos jellege miatt. A Globe and Mail számolt be először a találkozóról. Csak két nappal a tömeggyilkosság után keresték meg az OpenAI képviselői a tartományt, hogy segítséget kérjenek az RCPM-mel való kapcsolatfelvételben. David Eby, British Columbia miniszterelnöke közleményében azt mondta, hogy a családok fájdalma „elképzelhetetlen”, és hogy az a tény, hogy az OpenAI-nak „kapcsolódó információi” voltak a lövöldözés előtt, „mélyen nyugtalanító az áldozatok családjai és minden British Columbia-i számára”.
Szerkesztőségi vélemény: Az eset rávilágít a mesterséges intelligencia vállalatok felelősségére a felhasználók által generált tartalmak monitorozásában és a hatóságok értesítésében, különösen akkor, ha erőszakos vagy veszélyes tevékenységekre utaló jeleket észlelnek. Az OpenAI mulasztása komoly kérdéseket vet fel a cég protokolljaival és döntéshozatali folyamataival kapcsolatban, és arra ösztönzi a kormányzatokat, hogy szigorúbb szabályozást vezessenek be a mesterséges intelligencia területén a közbiztonság érdekében. Az eset tanulságul szolgálhat más technológiai vállalatok számára is, hogy komolyan vegyék a felhasználói tartalmak ellenőrzését és a hatóságokkal való együttműködést a jövőbeni tragédiák elkerülése érdekében.
Az eset rávilágít a mesterséges intelligencia vállalatok felelősségére és a szigorúbb szabályozás szükségességére. Az OpenAI mulasztása komoly kérdéseket vet fel a cég protokolljaival kapcsolatban. Az eset tanulságul szolgálhat más technológiai vállalatok számára is.
Hozzászólások
Szólj hozzá te is!
vagy