Ученые считают, что искусственный интеллект может вызвать «катастрофу» наравне с ядерной войной
04.11.2022
488
0.0
| Опрос показывает раскол среди ученых в отношении искусственного интеллекта (ИИ, AGI). Опрос ученых и исследователей, работающих в области искусственного интеллекта (ИИ), показал, что около трети из них считают, что это может вызвать катастрофу, сравнимую с полномасштабной ядерной войной, уже в этом столетии. Статья была опубликована на сервере препринтов arXiv. Опрос был предоставлен исследователям, которые были соавторами как минимум двух публикаций по компьютерной лингвистике в период с 2019 по 2022 год. Он был направлен на то, чтобы узнать взгляды отрасли на спорные темы, связанные с ИИ и общим искусственным интеллектом (AGI) — способностью ИИ думать как человек, — а также с тем влиянием, которое, по мнению специалистов в области исследований, ИИ окажет на общество в целом. Результаты публикуются в препринте, который еще не прошел рецензирование. AGI, как отмечается в документе, является спорной темой в этой области. Существуют большие различия во мнениях относительно того, движемся ли мы к этому, должны ли мы вообще стремиться к этому и что произойдет, когда человечество доберется до этого.
Среди результатов (довольно разделенных) было то, что 58% респондентов согласились с тем, что AGI вообще должен быть важной проблемой для обработки естественного языка, в то время как 57% согласились с тем, что недавние исследования подтолкнули нас к AGI. Что становится интересным, так это то, как исследователи ИИ считают, что AGI повлияет на мир в целом.
Между тем, 36% респондентов согласились с тем, что вполне вероятно, что ИИ может привести к катастрофическим последствиям в этом столетии «на уровне тотальной ядерной войны». Это не самая обнадеживающая вещь, когда значительная часть ученых считает, что это может привести к уничтожению человечества. Однако в разделе отзывов некоторые респонденты возражали против формулировки «тотальной ядерной войны», написав, что они «согласятся с менее резкими формулировками вопроса». |
Комментарии (0) | |