На прошлой неделе Anthropic подтвердила, что управляет лабораторией экспериментальной биологии в районе залива Сан-Франциско, где использует свои ИИ-модели для проведения физических экспериментов. На этой неделе компания объявила, что лаборатория уже сделала, как она считает, крупное открытие: новую ферментную «систему» с некоторыми «свойствами, напоминающими CRISPR», как описывает это Anthropic.
CRISPR — это естественная иммунная система бактерий, которую они используют для борьбы с вирусами, и которая стала широко применяемой исследователями технологией редактирования генов. По сути, Anthropic утверждает, что обнаружила ранее неизвестную ферментную систему, скрытую в ДНК бактериофагов — вирусов, которые заражают бактерии и размножаются внутри них. Исследователи Anthropic говорят, что эта система ведёт себя похоже на CRISPR и может «выполнять операции вроде разрезания, копирования и вставки ДНК».
Теперь более широкому научному сообществу предстоит проверить, насколько это открытие действительно значительное и насколько оно новое. Генеральный директор Anthropic Дарио Амодеи признаёт, что открытие опиралось на работу других исследователей и что команда из Стэнфорда ранее обнаружила систему, «которая в некоторых отношениях похожа на ту, что нашёл Claude», написал он в X.
Но Амодеи и Anthropic подчёркивают не только само открытие. Они также делают акцент на том, что оно было сделано «в основном, хотя и не полностью, Claude», написал глава компании.
С одной стороны, это поразительно. Лаборатория была создана только этой весной, хотя Anthropic отказалась уточнять, сколько именно месяцев она работает. Само по себе открытие за несколько месяцев было бы очень быстрым результатом, но команда говорит, что Claude понадобился всего 21 час сосредоточенной работы. Claude анализировал данные примерно с помощью 950 агентов, которые израсходовали около 210 млн токенов.
При этом информация о том, что Anthropic проводит биологические эксперименты, появилась сразу после того, как руководители ИИ-компаний, включая Амодеи, публично признали, что модели стали настолько мощными и потенциально опасными, что отрасли необходимо замедлить развитие и создать процедуры тестирования безопасности. Это произошло после того, как в начале месяца несколько сотрудников компании публично заявили, что существует риск, что ИИ может уничтожить человечество.
Сам Амодеи говорил, что одна из вещей, которых он больше всего боится, — возможность использования ИИ для биотерроризма. Но он также считает, что ИИ «вылечит большинство болезней за 5–10 лет», писал он. Поэтому Anthropic, очевидно, решила, что потенциальная польза оправдывает риски.
С учётом этого, возможно, самый важный момент в этой новости — не само открытие, а то, что в биологической лаборатории Claude пока не дали полной свободы. Физические эксперименты проводили люди.
«Наша лаборатория, расположенная в районе залива Сан-Франциско, выглядит как обычная лаборатория молекулярной биологии. Мы проводим исследования только на низких уровнях биологического риска — BSL-1 и BSL-2 — и не работаем с патогенами, способными заражать людей. Вся лабораторная работа выполняется учёными-людьми».
Также верно, что биологические исследования с использованием ИИ — далеко не уникальная особенность Anthropic. Исследователи из Стэнфорда недавно опубликовали работу об использовании LLM и CRISPR. Исследователи Калифорнийского университета в Сан-Франциско использовали ИИ для проектирования ферментов с нуля. Google запустила свой первый ИИ-инструмент для биологических исследований, AlphaFold, ещё в 2020 году. Так что ИИ уже явно пришёл в биологические исследования далеко за пределами самих ИИ-лабораторий.
Тем не менее Амодеи не исключает появления полностью автоматизированной биологической лаборатории в будущем. «Со временем, возможно, Claude даже сможет безопасно проводить эксперименты самостоятельно, автономно управляя лабораторным оборудованием при наличии соответствующих мер защиты, но сегодня мы этого не делаем», — сказал он.