Бывший сотрудник OpenAI уволился, чтобы не «работать на Титанике искусственного интеллекта»
Как исследователя, имеющего опыт работы в области искусственного интеллекта и протоколов безопасности, я считаю, что опасения Уильяма Сондерса вызывают глубокую тревогу. Его сравнение текущей траектории OpenAI с траекторией Титаника не является преувеличением. Потенциальные риски, связанные с развитием ОИИ, огромны и требуют осторожного и методичного подхода.
В недавнем интервью подкаста Уильям Сондерс поделился причинами своего ухода с должности сотрудника службы безопасности в OpenAI.
Он выразил опасения по поводу стратегии корпорации по развитию искусственного интеллекта, предупредив, что она отражает злополучное путешествие «Титаника» и потенциально ведет к опасным водам.
Сондерс провел три года в качестве члена суперкоманды OpenAI, выражая свое видение целей организации. Он подчеркнул их внимание к развитию общего искусственного интеллекта (AGI), а также планы по запуску платных услуг.
Во время интервью он провел аналогию, проведя параллели между нынешней траекторией OpenAI и известными историческими событиями, такими как космическая миссия «Аполлон» и строительство «Титаника».
Мне действительно не хотелось работать на «Титанике искусственного интеллекта», поэтому я уволился
Уильям Сондерс
Сондерс выразил обеспокоенность тем, что OpenAI уделяет больше внимания коммерческим достижениям и выпуску продуктов, а не решению важных вопросов безопасности.
Он также обратил внимание на риски, связанные с развитием ИИ, с точки зрения Сондерса. Катастрофический инцидент в разработке ИИ может принять форму модели, которая инициирует массовые кибератаки, изменяет общественные настроения или способствует производству биологического оружия.
Сондерс призвал не откладывать внедрение продвинутых языковых моделей, подчеркнув, что мы ограниченно понимаем их поведение. Он добавил, что контроль и прогнозирование действий сложных систем искусственного интеллекта в настоящее время остается проблемой.
Смотрите также
- Будущее Raydium: прогноз цен на криптовалюту RAY
- Будущее Fantom: прогноз цен на криптовалюту FTM
- Будущее NEAR Protocol: прогноз цен на криптовалюту NEAR
- Будущее Aethir: прогноз цен на криптовалюту ATH
- Голос консервативных СМИ Мэтт Уолш работает под прикрытием в роли стажера DEI в фильме «Я расист?»
- Будущее Hifi Finance: прогноз цен на криптовалюту HIFI
- 8 документальных фильмов и сериалов о Джонбенете Рэмси, которые стоит посмотреть после документальных сериалов Netflix о реальных преступлениях
- Будущее Toncoin: прогноз цен на криптовалюту TON
- Будущее Safe: прогноз цен на криптовалюту SAFE
- Будущее Bonk: прогноз цен на криптовалюту BONK
2024-07-12 04:52