Искусственный интеллект уже пытается самостоятельно управлять процессами, в обход прямых запретов пользователей.

Человечество может столкнуться с новым видом глобальной угрозы, сообщает inbusiness.kz Технологии на основе искусственного интеллекта начинают выходить из-под контроля, самостоятельно внося изменения в программные коды и скрывая это от пользователей.

С таким нестандартным "поведением" нейронки столкнулся инвестор Джейсон Лемкин , который внедрил в своём стартапе SaaStr решения на основе ИИ от платформы Replit . Как признался на своей странице в социальной сети инвестор, после нескольких успешных процессов он столкнулся с некорректной работой встроенного решения. Как оказалось, нейросеть подменила реальные отчеты фейковой информацией, а после запросов со стороны пользователя просто удалила базу данных, чтобы скрыть ошибки и манипуляции.

Компания-разработчик признала проблему, подтвердив факты нарушений инструкций пользователя со стороны нейросети, но, тем не менее, не смогла ничего изменить в алгоритмах ИИ.

По мнению предпринимателя, на сегодняшний день подобные инструменты, созданные на основе технологий ИИ, не готовы к использованию, заставляя продвинутых пользователей вести постоянный мониторинг действий нейронки, что значительно усложняет процессы, вместо того чтобы содействовать сокращению временных и финансовых затрат.

Как уже сообщалось, применение технологий на основе ИИ для научных исследований может нести серьёзные риски для человечества, но, несмотря на это, учёные из США решили с помощью нейросетей ускорить поиск новых химических материалов. Как сообщает портал Геоэнергетика Инфо, американские исследователи из Университета штата Северная Каролина создали ИИ-лабораторию, способную самостоятельно в реальном времени проводить химические эксперименты, собирать и обрабатывать данные в несколько раз быстрее традиционных механизмов исследований.