Группа международных исследователей провела оценку потенциальной опасности искусственного интеллекта для человечества в будущем. Результаты их работы были опубликованы на сервере препринтов arXiv.
Учёные из Университета Бата и Технического университета Дармштадта пришли к выводу, что крупные языковые модели (LLM) обладают способностью к самообучению и освоению новых навыков. Однако их поведение остаётся предсказуемым и поддаётся контролю.
В рамках исследования под руководством профессора Ирины Гуревич LLM были поставлены перед необходимостью решать незнакомые задачи. Выяснилось, что искусственный интеллект наиболее эффективен при решении задач на основе примеров. Профессор Гуревич отметила, что модели следуют инструкциям и выполняют указания без отклонений от основного плана. На основании этих наблюдений специалисты заключили, что вероятность выхода ИИ из-под контроля низка.
Несмотря на отсутствие экзистенциальной угрозы, исследователи признали возможность использования ИИ в преступных целях, например, для создания дезинформации или содействия мошенническим схемам. Учёные подчеркнули важность предоставления языковым моделям конкретных примеров и чётких инструкций для их корректной работы.
Источник: arxiv.org
