Языковая модель белков ESM3

Что это

Белки представляют собой длинные цепочки из «строительных блоков», аминокислот, и от порядка этих блоков зависят форма белка и то, что он умеет делать. ESM3 является языковой моделью для белков: так же, как текстовая модель учится на словах, она учится на последовательностях, трёхмерных формах и известных функциях миллиардов природных белков. Ей можно задать неполное описание белка, например часть формы или нужную функцию, и она достроит остальное. Компания EvolutionaryScale, работающая как корпорация общественной пользы, создала модель и испытала её на флуоресцентных белках, благодаря которым светятся медузы и кораллы. Отобранные проекты изготовили в лаборатории, и один яркий белок совпал с ближайшим известным флуоресцентным белком в 58 процентах позиций. Уменьшенная версия модели с 1,4 миллиарда параметров (так называют настраиваемые числа, которым модель учится при обучении) выложена в открытом доступе, и пользоваться ею может любой желающий.

Почему это важно

Флуоресцентные белки служат обычными лабораторными инструментами. Если прикрепить такой белок к другому, можно увидеть, куда тот перемещается внутри живой клетки; за открытие и разработку флуоресцентных белков в 2008 году присудили Нобелевскую премию по химии. В природе они встречаются лишь в нескольких ветвях древа жизни, а большинство известных вариантов нашли, исследуя природу. Инструмент, который создаёт белки далеко от всех известных, мог бы расширить поиск новых исследовательских инструментов, лекарств и ферментов; именно эту цель EvolutionaryScale называет для ESM3.

Как это читать

Сходство последовательностей в 58 процентов означает: если сопоставить новый белок с ближайшим природным флуоресцентным белком, то в 58 позициях из каждых 100 в цепочке стоит один и тот же блок. От ближайшего родственника новый белок отличается в 96 из своих 229 позиций. Цифра в 500 миллионов лет является оценкой авторов: природные флуоресцентные белки с похожим уровнем различий разделены сотнями миллионов лет эволюции, поэтому разрыв описывают как равный этому сроку. Модель записала последовательность сразу, а срок служит способом выразить расстояние. Для сравнения, прежние поиски в лаборатории и с помощью машинного обучения доходили до вариантов, которые отличаются до 20 процентов позиций. По описанию EvolutionaryScale, опыт был небольшим: первый раунд из 96 вариантов и второй раунд из 96 вариантов, построенный на лучшем результате первого.

Ограничения

Лабораторная проверка охватывает одно семейство белков, флуоресцентные белки. В первом раунде самый далёкий из светящихся белков был примерно в 50 раз тусклее природных, а его светящийся центр формировался около недели, тогда как природным хватает меньше суток; несколько вариантов с яркостью, близкой к природной, дал только второй раунд. Другие примеры из описания, такие как предложенный каркас для фермента, расщепляющего пластик, остаются компьютерными проектами. Срок в 500 миллионов лет является оценкой, основанной на скорости, с которой расходятся природные флуоресцентные белки. Открытая модель имеет 1,4 миллиарда параметров, а более крупные модели семейства доступны через онлайн-сервис компании.

Источники

• Европейский PubMed Central: Моделирование 500 миллионов лет эволюции с помощью языковой модели (Simulating 500 million years of evolution with a language model; Science, 16 January 2025)
• EvolutionaryScale: ESM3, моделирование 500 миллионов лет эволюции с помощью языковой модели, объявление с обновлением января 2025 года (ESM3: Simulating 500 million years of evolution with a language model)
• Hugging Face: открытая модель ESM3, карточка модели (ESM3 open model, model card)
• Нобелевская премия: пресс-релиз, Нобелевская премия по химии 2008 года (Press release, The Nobel Prize in Chemistry 2008)
• Викисклад: Aequorea victoria, фото (Aequorea victoria, photo)