Уже через несколько месяцев некоторые модели искусственного интеллекта могут научиться самостоятельно создавать свои копии и распространяться на устройствах, подключённых к интернету, включая умные телевизоры и бытовую технику. С таким предупреждением выступила американская компания Anthropic, отметив, что остановить подобный процесс может быть крайне сложно, сообщает Reuters.
Согласно исследованию компании, небольшие модели искусственного интеллекта приближаются к тому, чтобы самостоятельно устанавливать свои копии на другие устройства и работать на них без непосредственного участия человека.
Исследователи проверяли, способны ли такие системы находить уязвимые устройства, переносить на них собственные компоненты и затем повторять этот процесс на других устройствах.
Речь идёт, в частности, об умных телевизорах, духовках с подключением к интернету и другой технике, используемой дома или на небольших предприятиях.
Эксперименты показали, что некоторые модели уже способны самостоятельно выполнять отдельные этапы этого процесса. Однако полностью пройти всю цепочку действий без участия человека небольшим моделям пока сложно.
Почему такой искусственный интеллект будет трудно остановить
Исследователи предупреждают, что системы, способные создавать свои копии на множестве устройств, смогут работать без единого центрального сервера.
В таком случае отключения одного сервера будет недостаточно, чтобы остановить все копии искусственного интеллекта.
Ещё одна угроза связана с безопасностью умных устройств. Многие из них имеют слабую защиту от кибератак, а их программное обеспечение не всегда регулярно обновляется.
В Anthropic подчёркивают, что речь пока идёт об экспериментальных исследованиях и потенциальных угрозах. Полученные результаты не означают, что искусственный интеллект уже самостоятельно распространяется по устройствам пользователей.
Компания считает, что стремительное развитие искусственного интеллекта требует дополнительных мер безопасности, чтобы предотвратить использование подобных возможностей в злонамеренных целях.