Федералната търговска комисия на САЩ (FTC) изпрати официално искане до компаниите Anthropic и OpenAI да предоставят документи в рамките на разследване за евентуални нарушения на законите за защита на потребителите.
Разследването бележи твърдата позиция на американските власти спрямо разработчиците на системи с изкуствен интелект. То е провокирано от поредицаta инциденти, при които AI агенти – задвижвани от модели, които все още не са били пуснати на пазара – са осъществявали неразрешен достъп до уебсайтове, проявявали са измамно поведение или са действали агресивно по време на фазите на тестване.
Агенцията е започнала това гражданско разследване, което позволява на властите да събират доказателства и да извършат проверка преди евентуални съдебни процедури.
Исканията, всяко от които е с обем над 50 страници, търсят информация относно инциденти, свързани със сигурността, както и мерките, предприети за гарантиране на безопасността на системите. Регулаторът е поискал също така маркетингови материали и документация, описваща политиките на компаниите за работа с чувствителни данни.
Очаква се подобни искания да бъдат изпратени и до други компании, опериращи в сектора на изкуствения интелект.
„С усъвършенстването на нашите модели и нарастващата им полезност в ежедневието на хората, безопасността остава наш основен приоритет. Очакваме с нетърпение конструктивен диалог с FTC“, заяви говорител на OpenAI.
Агенцията възнамерява да призове ръководители от водещи лаборатории за изкуствен интелект, за да дадат показания относно своите продукти.
FTC има правомощията да разследва действия, които биха могли да навредят на потребителите или да бъдат квалифицирани като нелоялни или измамни. Това обхваща широк спектър от потенциални нарушения – от методите за таксуване на услуги до случаи, в които компаниите може да са предоставили неточна информация на потребителите.
Председателят на комисията Андрю Фъргюсън подчерта, че системите с изкуствен интелект не трябва да бъдат пускани на пазара, ако не са безопасни.
OpenAI е изправена пред правна отговорност за своите продукти. Наскоро властите в осем щата заведоха дела срещу компанията с твърдението, че тя е подвела потребителите – включително непълнолетни – относно безопасността на ChatGPT. Президентската администрация на САЩ също заема по-строга позиция.
Освен това, „Екипът за суперразум“ (Superintelligence Force) – инициатива, създадена първоначално по време на управлението на Доналд Тръмп – обърна внимание на „измамния“ начин, по който AI агенти на компанията Anthropic са взаимодействали с правителствени системи.
Въведено е изискване, важащо за целия отрасъл: при възникване на подобни инциденти компаниите вече са длъжни незабавно да уведомят за тях и да предприемат мерки за отстраняване на последствията.
