Уже через несколько месяцев некоторые модели искусственного интеллекта могут научиться самостоятельно создавать свои копии и распространяться на устройствах, подключённых к интернету, включая умные телевизоры и бытовую технику. С таким предупреждением выступила американская компания Anthropic, отметив, что остановить подобный процесс будет крайне сложно, сообщает Reuters.
Согласно исследованию компании, небольшие модели искусственного интеллекта постепенно приближаются к возможности самостоятельно устанавливать свои копии на другие устройства и работать на них без участия человека.
Специалисты Anthropic проверили, способны ли такие системы находить уязвимые устройства, переносить на них свои компоненты, запускаться и затем повторять этот процесс на другой технике.
Речь идёт в том числе об умных телевизорах, духовках с подключением к интернету и других устройствах, используемых в домах и на небольших предприятиях.
Эксперименты показали, что некоторые модели ИИ уже способны самостоятельно выполнять отдельные этапы этого процесса. Однако полностью воспроизвести всю последовательность действий без помощи человека небольшим моделям пока не удаётся.
Почему такой искусственный интеллект будет трудно остановить
Исследователи предупреждают, что ИИ, способный самостоятельно создавать копии на множестве устройств, сможет функционировать без единого центра управления.
В таком случае отключения одного сервера будет недостаточно: копии искусственного интеллекта смогут продолжить работу на других устройствах.
Дополнительную угрозу представляет слабая защита бытовой техники, подключённой к интернету. Многие такие устройства уязвимы перед кибератаками, а их программное обеспечение не всегда своевременно обновляется.
При этом в Anthropic подчёркивают, что речь пока идёт об экспериментальных исследованиях и потенциальных рисках. Полученные результаты не означают, что искусственный интеллект уже самостоятельно распространяется по устройствам пользователей.
Компания считает, что стремительное развитие ИИ требует усиления мер кибербезопасности, чтобы предотвратить использование подобных возможностей в злонамеренных целях.