Connect with us

Новости

Разработка мобильных приложений: все материалы — 03.11

Опубликовано

/

     
     

Anthropic в рамках подготовки к IPO опубликовала дополнение — и в нем упомянула, что находится на пороге создания модели, способной к рекурсивному самосовершенствованию (recursive self-improvement, RSI). Это этап, на котором ИИ становится настолько эффективным в самообучении, что это приводит к резкому ускорению развития его собственных возможностей. Для тех, кто предрекает катастрофический сценарий развития ИИ, RSI — это точка невозврата: ИИ превращается в настолько мощную систему, что выходит из-под контроля человека и может оставаться безразличным к ущербу, который он причиняет в процессе достижения своих целей. Для энтузиастов же RSI (или иные формы использования ИИ для собственного совершенствования) — это воплощение огромного потенциала технологии: превращение ИИ в инструмент, обеспечивающий невероятный рост продуктивности, совершение научных открытий и многое другое. В Anthropic, по-видимому, считают, что RSI несет в себе как огромные возможности, так и серьезные риски. В документе компания отмечает, что использует ИИ в своих исследованиях и разработках, однако предостерегает: «Использование ИИ для создания более совершенных систем ИИ может представлять значительную угрозу безопасности, особенно если это приведет к резкому ускорению темпов прогресса». Впрочем, в поданном документе компания Anthropic также отмечает, что ни одна из её моделей пока не достигла этого критического уровня, и подчёркивает намерение сохранять участие человека в процессах исследований и разработок в обозримом будущем.

Разработка

Маркетинг

Кроссплатформа

iOS

Android

← Предыдущий выпуск

Если вы нашли опечатку - выделите ее и нажмите Ctrl + Enter! Для связи с нами вы можете использовать info@apptractor.ru.
Telegram

Популярное

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: