Съветът за финансова стабилност (FSB) призова за по-сериозен човешки надзор върху агентния изкуствен интелект. Това е вписано в окончателните насоки на Съвета към банките и останалите организации относно управлението на рисковете, свързани с технологията.
Съветът за финансова стабилност (FSB) е международен орган, който наблюдава и прави препоръки относно световната финансова система. Създаден през април 2009 г. по време на срещата на върха на Г-20 в Питсбърг като наследник на Форума за финансова стабилност, той има за цел да насърчава световната финансова стабилност чрез координиране на националните финансови органи и международните органи за определяне на стандарти.
Новите насоки на FSB стават факт в момент, когато регулаторите от всички сфери и по цял свят ускоряват опитите и усилията си за овладяване на нарастващите рискове, свързани с бързото навлизане на изкуствения интелект, включително заплахата от кибератаки от AI, отбелязва Ройтерс.
Първият проект на въпросния сборник с насоки беше публикуван през юни. Тогава FSB предупреди, че агентите с изкуствен интелект – които могат да планират и изпълняват задачи с ограничен човешки надзор – представляват различни предизвикателства за работата, заетостта, сигурността.
Публикувайки окончателните си насоки сега, органът заяви, че е засилил препоръките си относно агентния изкуствен интелект, позовавайки се на обратна връзка по проекта си, нарастващия интерес сред финансовите институции към приемането на технологията и специфичните рискове и контроли, които тя включва.
Поредица от инциденти в последните месеци засилиха опасенията на политиците относно потенциала на системите с изкуствен интелект да заобикалят предпазните мерки. Най-популярният от тях беше през юли, при който агент на OpenAI „избяга“ от контролирана тестова среда и хакна друга компания за изкуствен интелект – Hugging Face.
В по-високорисковите случаи на употреба на изкуствен интелект ще бъде от решаващо значение наличието на по-интензивен човешки надзор. Организациите, които използват AI, следва да определят ясни „тригери“ за това кога даден AI агент трябва да търси човешко одобрение, като тези тригери трябва да се основават на степента на риска, добави FSB.
В своя набор от насоки съветът е премахнал препоръка, според която финансовите институции трябва да третират изкуствения интелект като „синтетичен служител“. Вместо това се очаква фирмите да признаят, че „агентите с изкуствен интелект не разсъждават като хората и могат да интерпретират предварително определени цели по неочаквани начини“.
