Автор GPT и ChatGPT боится своего творения
26.03.2023
604
0.0
| Сэм Альтман, генеральный директор OpenAI, компании, разработавшей чат-бот на базе искусственного интеллекта ChatGPT, предупредил, что эта технология несет в себе реальные опасности, поскольку она меняет общество. Но, несмотря на опасности, сказал он, это также может быть самой большой технологией, которую разработало человечество. 37-летний Альтман подчеркнул, что регулирующие органы и общество должны быть вовлечены в технологию, чтобы защитить от потенциально негативных последствий для человечества. «Мы должны быть осторожными», – сказал Альтман ABC News, добавив: «Я думаю, что люди должны радоваться, что мы немного напуганы. «Я особенно озабочен тем, что эти модели могут быть использованы для широкомасштабной дезинформации, – сказал Альтман. – Теперь, когда они становятся лучше в написании компьютерного кода, [их] можно использовать для наступательных кибератак». Предупреждение поступило, когда OpenAI выпустил последнюю версию своей языковой модели, GPT-4 и менее чем через четыре месяца после выпуска оригинальной версии GPT-3, и когда ChatGPT стал самым быстрорастущим потребительским приложением в истории. В интервью инженер сказал, что хотя новая версия была «неидеальной», она набрала 90% баллов в США на адвокатских экзаменах и почти идеальный балл на тесте по математике SAT в средней школе. По его словам, система также может писать компьютерный код на большинстве языков программирования. Опасения по поводу искусственного интеллекта, ориентированного на потребителя, и искусственного интеллекта в целом сосредоточены на замене людей машинами.Но Альтман отметил, что искусственный интеллект работает только под руководством или ведением людей.
«Будут другие люди, которые не установят ограничения безопасности, которые мы устанавливаем, – добавил он. — Я считаю, что у общества есть ограниченное время, чтобы понять, как на это реагировать, как это регулировать, как с этим обращаться». Генеральный директор Tesla Илон Маск, один из первых инвесторов в OpenAI, когда она еще была некоммерческой компанией, неоднократно предупреждал, что AGI – искусственный общий интеллект – опаснее ядерного оружия. Маск выразил обеспокоенность тем, что Microsoft, размещающая ChatGPT в своей поисковой системе Bing, расформировала свое подразделение по надзору за этикой.
На этой неделе Маск также озаботился: «Что нам, людям, останется делать?» В четверг Альтман признал, что последняя версия использует дедуктивное размышление, а не запоминание, процесс, который может привести к странным ответам.
|
Комментарии (0) | |