Небольшие ИИ-модели вскоре смогут самостоятельно устанавливаться на умные устройства — Anthropic
Фото Pexels 13 октября, Минск /. Компания Anthropic заявила, что ее эксперименты показывают: небольшие модели искусственного интеллекта (ИИ), возможно, через несколько месяцев будут способны самостоятельно устанавливаться на коммерческие устройства интернета вещей (Internet of Things, IoT), такие как умные духовки и ТВ-приставки. Об этом говорится в материале агентства Reuters.
В своих экспериментах компания Anthropic изучала, могут ли модели ИИ находить уязвимые устройства, копировать себя в эти устройства и продолжать распространяться без участия человека. Компания предупредила, что воспроизводящие модели будет сложно отключить, поскольку отсутствует централизованная точка отключения.
В своих исследованиях компания сосредоточилась на устройствах интернета вещей, таких как телевизоры, умная бытовая техника и другие подключенные к сети Интернет гаджеты, поскольку они, как правило, плохо защищены. В Anthropic также добавили, что системы следует усилить, чтобы затруднить распространение таких агентов ИИ.
Ранее сооснователь Microsoft Билл Гейтс в интервью CNN заявил о росте угрозы кибератак с использованием ИИ в ближайший год. По его мнению, главная опасность сейчас заключается не в выходе ИИ из-под контроля, а в применении технологии злоумышленниками. Например, во Франции в ночь на 12 октября хакерам удалось дистанционно получить контроль над системами управления холодильным оборудованием в многочисленных французских супермаркетах. Злоумышленники запустили непрерывный цикл разморозки с заданной температурой. В результате морозильные камеры превратились в «печи», нагревшись до 50 градусов и удерживая эту температуру около шести часов. Пострадали сотни супермаркетов во Франции, за один день были уничтожены товары на миллионы евро.
