Самообучение одноклеточных и коллективный интеллект

Казалось бы, обучение ^[1] — это процесс, непосредственно связанный с нервной деятельностью. Неслучайно вычислительная единица в составе перцептрона и самообучающихся сетей названа именно «нейроном ^[2]». Двухчастную работу «Нейронные сети ^[3] для начинающих ^[4]» о том, в каких отношениях искусственные нейроны ^[5] напоминают естественные, написал на Хабре в 2016 и 2017 годах уважаемый @Arnis71 ^[6] (свыше миллиона семисот двадцати тысяч просмотров у первой части — наверное, не рекорд Хабра, но полюбуйтесь, сколько закладок). Однако обучение, усваивание — это функция, которую у человека могут выполнять не только нейроны, но и, например, астроциты. Об этих удивительных клетках мозга я ранее рассказывал на Хабре в статье «Звёзды у нас в голове. О роли астроцитов в работе нейронных сетей ^[7]». Сегодня хочу затронуть ещё более удивительную тему — механизмы обучения у одноклеточных.

В понимании классической нейрофизиологии память ^[8] устроена механистично и действует по принципу, сформулированному в теории Хебба ^[9]: «взаимодействующие клетки объединяются». Речь идёт о молекулярных биохимических процессах, обеспечивающих долговременную потенциацию (LTP) — закрепление синаптических связях. Этот феномен интересно описан с точки зрения ^[10] информатика в статье уважаемого Андрея Белкина @aigame ^[11] «Реверс‑инжиниринг механизмов биологической памяти ^[12]». Механизм, озвученный в теории Хебба, помогает понять, как именно память реализуется в нервной ткани, но не объясняет, что такое память. Может ли она возникать только в нервной ткани, либо аналогичные возможности сформируются на любом носителе, клеточном или цифровом, как только этот носитель преодолеет некий порог вычислительной сложности? Именно такой «переход количества в качество» до сих пор ожидается в деле проектирования потенциального AGI (общего искусственного интеллекта ^[13]) и развития больших языковых моделей, но эта тема выходит за рамки данной статьи.

Согласно концепции вычислительного функционализма ^[14], когнитивные возможности возникают как эмерджентное явление, а затем накапливаются. Тем интереснее, что к настоящему времени известно всё больше примеров, что примитивная память («закрепление опыта») доступна некоторым простейшим, у которых по определению не бывает ни нейронов, ни синапсов. Мало того, что они не имеют и не могут развить нервную ткань, так они ещё и по определению являются одноклеточными, тогда как нервная ткань — это сеть. То есть, это не просто ткань, а сильнейшим образом переплетённая ткань. Нервные клетки не делятся ^[15] потому, что для деления клетка должна была бы избавиться от всех синапсов, а новая клетка должна была бы очень быстро отрастить нужный набор синапсов, то есть, «вплестись» на нужное место. Любые проявления запоминания у одноклеточных (примеры таких явлений мы рассмотрим ниже) должны означать, что примитивная память возможна не в ткани с передачей информации «клетка‑клетка», а в пределах более низкоуровневой субклеточной цитоархитектоники ^[16].

Это инфузория‑трубач Stentor roeseli, которая привлекла внимание ^[17] американского биолога Герберта Дженнингса ещё в 1906 году. Дженнингс отметил, что в ответ на многократные стимулы инфузория пробует разными способами ускользнуть от экспериментатора, не повторяясь при этом — словно «запоминая», какая уловка не сработала.

Опыт ^[18] Дженнингса состоял в следующем: он набирал этих одноклеточных в пруду, после чего добавлял в чашку с ними каплю раздражающего красного пигмента из стеклянной пипетки. Оказалось, что, столкнувшись с неприятным веществом, инфузории пытались сначала уклониться от пипетки, затем «оттеснить» от себя краситель, активно работая ресничками, а если это не помогало — «сгруппироваться», сократив поверхность клетки, после чего бросались врассыпную. Вот как Дженнингс зарисовал эти состояния:

Надрессировав инфузорий так им образом, Дженнингс оставлял их в покое, а спустя некоторое время повторял эксперимент. Он пришёл к выводу, что защитная реакция ^[19] у простейших, очевидно, сохраняется.

О странной инфузории вспомнили в 1967 году, неудачно попытавшись повторить опыт Дженнингса — но, возможно, просто взяли для изучения не то простейшее ^[20]. Лишь в 2019 году группа исследователей (во главе с Джозефом Декстером) из Дармутского колледжа и Медицинской школы при Гарвардском университете повторили такие опыты, подвергая инфузорий‑трубачей всё более выраженным стимулам‑раздражителям. Инфузория уходила от этих ударов всё более изобретательно; логичнее всего было предположить, что она «учитывает приобретённый опыт».

Биохимическая память

Ранее в статье «Бактериальные логические вентили и рибосомная память ^[21]» я рассказывал о том, что логические вентили вполне можно реализовать на уровне биохимических реакций внутри бактериальной клетки. Эволюция поднаторела в использовании этого механизма: так, в ходе обычного метаболизма клетка может включать или выключать определённый белок, прикрепляя к белковой молекуле фосфат или наоборот, отцепляя его. Это ещё не позволяет говорить о «памяти» и «data storage» в чистом виде, но позволяет говорить о подкреплении ^[22] стимула ^[23] на основе многократного воздействия. В 2024 году этот феномен исследовали ^[24] учёные из медицинской школы при Гарвардском университете (в составе группы был и Джереми Гунавардена, участвовавший в вышеописанном опыте с инфузориями‑трубачами). Часть реакций учёные проводили в чашках Петри, а часть моделировали на компьютере.

В особенности их интересовали два молекулярных процесса: циклы отрицательной обратной связи и циклы несвязанного упреждения. При отрицательной обратной связи продукт процесса, накапливаясь, угнетает сам этот процесс. Например, термостат может отключить обогреватель, как только в помещении станет слишком жарко. Во втором случае сигнал разгоняет как сам процесс, так и его ингибитор. Например, лампочка срабатывает на движение, но, после того, как зафиксирует движение, она отключится на некоторое время, заданное по таймеру.

Симуляции показали, что одноклеточные организмы обучаются реагировать на стимулы, сочетая, как минимум, два вышеупомянутых механизма. Поэтому некоторые одноклеточные в прямом смысле поддаются дрессировке. Эти опыты показали, что клетка соблюдает в работе молекулярных контуров разделение масштабов времени ^[25], благодаря чему некоторые биохимические цепочки работают гораздо быстрее, чем другие. Это позволяет более медленным цепочкам работать в незатухающем режиме.

Эволюционное обоснование

Логично ^[26], что естественный отбор должен поддерживать любые стратегии, способствующие выживанию, поэтому способность к «обучению» должна быть древнее, чем нервная деятельность. В многоклеточном организме иммунные клетки наиболее похожи на популяции мигрирующих одноклеточных, которые должны осваиваться в новых «обиталищах» (органах и тканях). Существование подобных механизмов продемонстрировала ^[27] в 2022 году группа под руководством Анеты Косески из университета Макса Планка. Более известный на Хабре модельный организм, иллюстрирующий самообучение в поиске пропитания — это слизевик, о котором на Хабре ещё в 2021 году рассказывала ^[28] уважаемая @ancotir ^[29] Впоследствии уважаемый Артур Красный @ArthurEx ^[30] написал на Хабре о том, как слизевик (физарум) начертил ^[31] карту токийского метро в чашке с агар‑агаром, подбираясь к разложенным в чашке кусочкам овсяных хлопьев и обходя чрезмерно освещённые участки. Навигация у слизевика чисто биохимическая и напоминает муравьиный алгоритм ^[32]: организм оставляет химические следы там, куда успел прорасти. Чем сочнее след — тем активнее движение в данном направлении. Организм сравнивает градиент своих сигнальных веществ от прохода к проходу и предпочитает более выгодные пути. Ещё в прошлом году выходило исследование о том, что слизевик справляется с задачей коммивояжёра ^[33], а около месяца назад уважаемый @inkedsymon рассказал ^[34] на Хабре о том, как задача коммивояжёра решается колонией кишечной палочки.

Здесь мы подошли к интересному отличию между инфузорией‑трубачом и бактериальными колониями, а именно, в их подходе к усвоению новой информации. Тогда как инфузория‑трубач поддаётся дрессировке практически по Павлову, у бактерий и иммунных клеток действует совокупная память, присущая не одной клетке, а всей колонии. Тем не менее, в обоих случаях мы имеем дело с полноценным обучением и накоплением опыта в одном поколении клеток, а не с эволюцией.

Интервальное голодание или отслеживание концентрации питательных веществ

Кишечная палочка удобна для таких опытов, поскольку мы не только отлично изучили среду её обитания (человеческий кишечник), но и умеем регулировать в ней содержание питательных веществ, а также прореживать популяцию антибиотиками. Химические условия в кишечнике меняются очень быстро, а температура может меняться медленнее, зато в масштабах всего кишечника. Поэтому, чтобы выжить, бактерия должна быстро реагировать на происходящее, но одновременно усваивать признаки надвигающегося изменения условий.

Такой сеттинг можно исследовать в рамках вычислительной биофизики, чем и попробовал заниматься Шиладитья Банерджи ^[35] из университета Джорджии. Сфера его научных интересов — обработка информации в живых системах и адаптация клеток к изменениям в экосистемах. Технологическая база для таких опытов уже наработана в рамках микрофлюидики ^[36], гостевой пост о которой однажды опубликовала в моём блоге уважаемая Анастасия Лазукина @anastasiamrr ^[37] Микрофлюидика работает с настолько слабыми токами и такими миниатюрными (но при этом точно подобранными) дозировками вещества, что позволяет, например, изучать реагирование бактерий на электричество ^[38]. Команда Банерджи сконструировала прибор ^[39], позволяющий отслеживать поведение ^[40] тысяч особей кишечной палочки, когда экспериментатор с разной частотой усиливает и ограничивает приток питательных веществ.

Опыт показал, что бактерии способны накапливать опыт о «голодных» и «сытых» периодах. Популяции, подвергавшиеся такому стрессу ^[41], реагировали на возобновление притока пищи быстрее и активнее, чем «неопытные» штаммы. То есть, бактерии где‑то хранят «знания» о прошлых событиях.

Где именно одноклеточные могут хранить информацию

Чтобы ответить на этот вопрос и соотнести такой механизм обучения бактериальной колонии с какими‑то из известных искусственных нейронных сетей, группа под руководством Банерджи создала математическую модель ^[42] тех биохимических взаимодействий, от которых зависит роль бактерий. Поскольку колония нарабатывает опыт, требовалось выяснить, где, если не в нейронах и не в синапсах, бактерии хранят информацию.

По‑видимому, в таком качестве могут выступать рибосомы ^[42] — клеточные фабрики белков. Клетка выступает приёмником информации, накапливая данные об окружающей среде, а рибосома, исходя из этой информации, регулирует, насколько быстро растёт клетка ^[43], и какие именно белки/ферменты в конкретных условиях синтезируются.

Эта картина дополнительно подтверждается тем, что некоторые рибосомы реагируют на изменение быстрее, а другие медленнее. Их функцию можно сравнить, соответственно, с оперативной и долговременной памятью ^[44]. Поскольку рибосом в клетке очень много, этот механизм избыточен, и «воспоминания» могут сохраняться у бактерии от нескольких минут до нескольких часов.

Бактериальная колония с рекуррентными управляемыми блоками

Такая математическая модель позволяет уподобить молекулярную машинерию в бактериальной клетке хорошо известным рекуррентным нейронным сетям с управляемыми блоками ^[45]. Сети такого типа хороши для обработки потоковых данных, например, речи либо показаний, поступающих с датчиков.

С точки зрения информатики такой управляемый блок похож на вентиль ^[46]. Как я уже рассказывал в вышеупомянутой статье о бактериальных логических вентилях, на нехитрой биохимии можно реализовать молекулярные переключатели, определяющие важность той или иной информации, то есть, решающие, сохранить полученные данные или затереть новыми — более актуальными (изменились условия окружающей среды) или более ценными для выживания. Если бактерия тратит энергию на приспособление к окружающей среде, то у неё остаётся меньше энергии на рост и размножение. Для соблюдения этого баланса в пределах колонии используются механизмы, которые в рамках этого повествования я готов приравнять к обучению.

Заключение

Здесь я сошлюсь на статью «Learning to Be: how learning strengthens the emergent nature of collective intelligence in a minimal agent ^[47]» Майкла Левина, выдающегося микробиолога из Университета Тафтса. В этом тексте он сравнивает действия бактерии с поведением ^[48] минимального интеллектуального агента и, как мне кажется, сомневается в том, в результате чего возникает коллективная адаптация бактериальных колоний к окружающей среде: обучение ли это или просто реагирование на «потоковые данные», влияющие на общее выживание. Но приведённые выше примеры адаптации «по Павлову», обнаруженные у инфузорий‑трубачей, а также явное сходство между механизмами бактериальной адаптации и архитектурой некоторых нейронных сетей подводят меня к мысли о том, что упомянутые опыты позволяют представить, как может выглядеть интеллект без нейронов и синапсов. Сложно провести границу между биохимическим реагированием на раздражители ^[49] и обработкой информации, но, если нейронная сеть может усваивать и использовать информацию, работая по принципу бактериальной колонии с использованием муравьиных алгоритмов и без них. Тем не менее, возможно, к началу 2020-х биоинформатики нащупали чисто биохимический уровень памяти и обучения, неизбежно возникающий из динамической сложности живых систем.