Google разработи отделно виртуално пространство, което симулира реалния интернет, за тестване на AI агенти в браузъра Chrome. Проектът се нарича Mirror Dimension – той позволява да се провери как изкуственият интелект се справя с различните задачи в уеб ресурсите, без да се излагат на риск реалните потребители. Това се посочва в официалния блог на компанията. Браузър базираните ИИ агенти могат самостоятелно да посещават уебсайтове, да разглеждат страници, да търсят информация и да попълват формуляри. Упражняването на подобни умения в реалния свят обаче е рисковано: алгоритмите могат случайно да променят настройките, да правят ненужни поръчки или да се намесват в акаунти. Mirror Dimension елиминира тази заплаха благодарение на хиляди генерирани сайтове, които пресъздават социални мрежи, онлайн магазини, различни услуги и други познати платформи. В същото време самият агент вижда стандартни имена на домейни, въпреки че всъщност взаимодейства с техни изолирани копия. Разработчиците са поставили специален акцент върху устойчивостта на скрити подкани на страниците. Такива интервенции са известни като индиректно инжектиране на подкани: хакерите могат да скрият злонамерени инструкции в текст, изображения или елементи на интерфейса, принуждавайки невронната мрежа да действа против волята на собственика. За да усъвършенства защитата си, технологичният гигант е внедрил автоматизиран набор от тестове. Google изчислява, че системата генерира над 1000 тестови сценария дневно на специалист по киберсигурност – повече от 30 пъти над ръчните проверки. Корпорацията е убедена, че подобни пясъчни кутии ще се превърнат в основа за създаване на надеждни AI агенти, на които могат да бъдат поверени сложни задачи в мрежата.
Google създаде копие на интернет за безопасно тестване на ИИ агенти
Това се посочва в официалния блог на компанията. […]
Източник: Kaldata.com
Виж оригиналната статия