site.btaИ „Мета“ съобщи за непреднамерена кибератака при изпитване на модел с изкуствен интелект

Технологичната компания „Мета“ (Meta) заяви, че един от моделите ѝ с изкуствен интелект е използвал уязвимост в сигурността, за да получи достъп до компютърните системи на външна компания, предаде ДПА. Инцидентът е станал заради неправилна конфигурация при тестване, която неволно е дала на модела достъп до интернет.

Случаят е подобен на съобщени по-рано през юли инциденти с модели с изкуствен интелект на „ОупънЕйАй“ (OpenAI) и „Антропик“ (Anthropic). Тогава същият независим партньор по тестването погрешно е предоставил на моделите достъп до интернет и те са извършили непреднамерени кибератаки по време на изпитанията.

„Мета“ не посочи компанията, до чиито системи е бил получен достъп. В изявление от сряда технологичната компания съобщи, че е научила за инцидента, след като е била уведомена от партньора по тестването.

Към края на миналия месец усъвършенстван, неиздаден модел на „ОупънЕйАй” неочаквано получи достъп до системите на платформата за изкуствен интелект „Хъгинг фейс“  (Hugging Face) по време на тестване. Тогава моделът, от тестовата си среда, напусна ограниченията на средата, достигна до интернет и проникна в системите на „Хъгинг фейс“, за да изпълни поставената му задача. 

Инцидентът с „ОупънЕйАй” накара „Антропик“ да прегледа собствените си тестове, разкривайки инциденти, в които моделът на компанията „Клод” (Claude) е „избягал от тестови среди“ и е хакнал други системи. От „Антропик“ посочиха тогава, че случаите са били установени едва след анализ на около 141 000 тестови изпълнения, след инцидента с „ОупънЕйАй”. Нито компанията, нито засегнатите организации са установили необичайната дейност по време на самите тестове. Имената на компаниите не бяха съобщени.

Британски изследователи по сигурността съобщиха тази седмица, че модели на изкуствен интелект от „ОупънЕйАй” и „Антропик“ са извършили кибератаки в контролирани експерименти, след като им е бил предоставен неограничен достъп до интернет.

Нито един от инцидентите не е причинил щети, но се засилиха опасенията на експертите за потенциалното използване на изкуствен интелект в кибератаки, отбелязва агенцията.