Австралия ще задължи компаниите, занимаващи се с изкуствен интелект, да докладват за пробиви в сигурността. Освен това се готвят промени в наказателното законодателство, които да зададат правила за действие при „сериозни нарушения“, заяви във вторник премиерът Антъни Албанези. Това се случва, след като наскоро софтуерен агент на OpenAI проникна в правителствен уебсайт.
В края на септември правителството на Австралия съобщи, че агент на OpenAI е получил неразрешен достъп до портала за медицинска статистика на Medicare – австралийската програма за всеобщо здравно осигуряване. Случило се е, докато агентът е извършвал проучване относно публичните разходи за здравеопазване. Инцидентът предизвика незабавна правителствена проверка.
Албанези заяви, че правителството му е приело всички препоръки от проверката. Те „включват задължително докладване от страна на компаниите за AI в случаи на нежелано поведение или кибер-инциденти, както и обмисляне на реформи в наказателното право за случаи на сериозни нарушения“, каза Албанези пред репортери.
„Законодателството трябва да изпреварва събитията, а в някои случаи – да навакса изоставането си спрямо един свят, който се променя изключително бързо“, добави той.
От OpenAI заявиха, че са разбрали за пробива едва през август и че инцидентът е бил непреднамерен. Тяхната вътрешна проверка не е открила доказателства, че агентът е имал достъп до досиета на пациенти.
Пробивът засили напрежението между Австралия и американските технологични компании. По-рано Канбера отказа на OpenAI (създателя на ChatGPT) и на конкурентната компания Anthropic да позволи изключения от законите за авторското право при обучението на моделите им. Вместо това ги задължи да преговарят за лицензионни споразумения с австралийските носители на права.
Въпреки това миналия месец двете компании заявиха пред австралийския парламент, че биха приветствали законодателство, което ги задължава да докладват за пробиви в сигурността, причинени от техните AI агенти. Те признаха, че към момента решението за уведомяване при подобни случаи зависи изцяло от тяхната преценка.
Албанези посочи, че неговото правителство сега ще създаде и регулаторен орган за AI. Той ще следи за контрола върху сигурността по време на целия процес на разработка и внедряване на AI системи, ще идентифицира сериозни рискове и ще извършва независими оценки на моделите с изкуствен разум.
„Регулаторният орган по AI безопасност ще има правомощията да налага сериозни санкции на компаниите, които действат неправилно“, заяви той. Задължителните мерки за безопасност и сигурност при изкуствения интелект ще бъдат част от предложеното от правителството законодателство в тази област”, заяви Албанези, като добави, че кабинетът планира да го внесе в парламента през следващата година.
