Нові машини: швидше організми, ніж механізми

Можливо, наближається час, коли нам доведеться переконувати машини зробити що-небудь, підбирати для цього переконливі аргументи, мотивацію.

Робототехнік Джошуа Бонгард і біолог Майкл Левін пропонують стерти кордони між біологією, інженерією, інформатикою і створити нову область науки. Їй належить вивчати машини майбутнього, яких ще немає і які не схожі на все, що люди створювали досі. Такими машинами не можна керувати безпосередньо, їх доведеться переконувати. Цей погляд ламає звичну картину світу, поміщаючи життя в несподіваний контекст, однак, схоже, за ним правда.

Бонгард (Josh Bongard), інформатик з Університету Вермонту (The University of Vermont), багато років вивчає і моделює адаптивних роботів, які вміють видозмінювати своє тіло. У 2007 році він увійшов до топ-35 кращих молодих інноваторів світу, рейтинг, що щорічно складається MIT Technology Review, а в 2010-му на церемонії в Білому домі був нагороджений Президентською премією.

Левін (Michael Levin), директор Центру регенеративної біології та біології розвитку Університету Тафтса (The Allen Discovery Center at Tufts University), досліджує механізми регенерації і росту, експериментуючи із земноводними. Його нетривіальні ідеї цінують в Агентстві перспективних досліджень міністерства оборони США: Левін залучений відразу в кілька проектів DARPA.

У березні 2021 року вони опублікували статтю під заголовком: "Живі об'єкти не є машинами (в поняттях ХХ століття): оновлюємо метафори механізмів у світлі сучасної науки про поведінку машин ". По суті це маніфест, де порушені глибокі ідеї про те, як влаштована реальність. Бонгард і Левін вважають, що біологія та інформатика вивчають одні і ті ж процеси, і пора поєднати ці науки.

Технології, розвиваючись, кажуть вони, змінюють сенс таких понять як «машина», «робот» або «програма». Комп'ютери - лише мала частина простору обчислювальних систем, куди входить і жива природа, і потрібно досліджувати все їх різноманітність, включаючи «машини, якими вони могли б бути».

Більше біології, еволюції та хаосу

Ось їхня логіка. Раніше машиною назвали б механізм, цілеспрямовано створений людьми. Деталі його підігнані один до одного і пов'язані, щоб здійснювати потрібну роботу. На відміну від, наприклад, глибоководної риби з прозорою головою, яку явила на світ еволюція, за машиною стоїть розумний автор. Але це в теорії; на практиці складні машини мають складне походження.

Сьогодні розробник нехай і мислить сам, але і наслідує технічні рішення, прийняті колись іншими людьми, що робить одні його думки більш імовірними, ніж інші; його вибір компонентів і дизайну машини залежить від моди, сформованих практик, невидимої руки ринку і навіть роботи інших машин. Внесок автора не так легко обчислити.

Генетичні алгоритми розмивають цей внесок ще сильніше. Реактивні двигуни або роботів оптимізують, запускаючи їх еволюцію в комп'ютері. Програма віртуально створює популяцію машин з випадковим розкиданням параметрів, далі включають природний відбір, мутації і спадкування кращих варіантів. Еволюція може йти нескінченно, людина лише вибирає, коли її зупинити.

Він (а) не знає, що отримає в підсумку - результат може бути цікавим - але у машини можуть з'явитися «зайві» деталі. І чим та складніша, тим імовірніше. Як пишуть Бонгард і Левін, машини XXI століття люди будуть не стільки проектувати, скільки розвивати, використовуючи еволюцію. Їх навчать відмінно справлятися із завданнями, але пристрій їх буде заплутаним і нераціональним. Тут спосіб творення впливає на результат: чим більше «біології» на вході, тим її більше на виході.

Наприклад, такі складні спроектовані пристрої як літак або колайдер можна вимкнути, розібрати на частини, відремонтувати або проапгрейдити, а потім знову зібрати. Машини, що розвиваються в своїх плюсах і мінусах будуть повторювати життя - спроби розібрати їх на частини будуть майже в тій же мірі загрожують непоправними наслідками, як спроба розібрати кішку.

Однак паралель з біологією глибший. Автори ілюструють її прикладом, близьким Левіну. Зграя пуголовків плаває по колу, щоб поживні речовини проходили через жабри. Зграя як ціле володіє поведінкою, пуголовки змагаються один з одним за корм, в той час як їх черепно-лицьові тканини перебудовуються, перетворюючись на голову жаби. Тканини при цьому ще й конкурують за ресурси, а клітини підтримують гомеостаз, метаболізм, транскрипцію - кожна виконує свою роботу.

Ця вкладена архітектура з конкуруючих і співпрацюючих на різних рівнях одиниць народжує таку ступінь надійності, гнучкості і здатності до адаптації, що будь-який інженер позаздрить. Рани пуголовка заживають, тіло перебудовується на ходу, а якщо викликати збій розвитку і очей потворно сповзе вбік, то збій буде компенсований. Очі жаби опиняться на належних місцях.

Як зазначають Бонгард з Левіним, у цьому «реальна різниця між тим, як ми проектуємо машини, і тим, як будуються живі істоти». Їхня ідея в тому, щоб не повторювати природу один в один, але знайти перші принципи, очистити їх від несуттєвих деталей і потім втілити в машинах.

Тоді машини будуть влаштовані як «рухоме» суспільство «компонентів, які на різних рівнях спілкуються, торгують, співпрацюють, конкурують і обмінюють інформацію та енергію». Роботи стануть гібридними, «галасливими», погано передбачуваними в дрібницях і в чомусь надлишковими - але будуть вміти набагато більше.

Це не безпідставні фантазії. Бонгард і Левін на багатьох прикладах показують, що робототехніки, програмісти і біоінженери вже зараз розмивають всі ключові відмінності машин від організмів - так, поки в лабораторіях, в рідкісних і перших експериментах. Їх гальмує слабкість технологій, але тренд вже заданий, машини XXI століття будуть біологізуватися, розумнішати і підвищувати свою автономію. А це означає, що колишні методи контролю їм не підійдуть.

Навіщо переконувати машину

Два роки тому в журналі Nature вийшла стаття, яку також можна прийняти за маніфест. Двадцять три автори, серед них і Бонгард, працюють у відомих наукових центрах, таких як МТІ, Гарвард, Стенфорд, Йель, Інститут Санта-Фе, Імперський коледж Лондона, а також Microsoft Research, Facebook AI і Google Brain. І, що буває нечасто, в одному тексті зійшлися фахівці з інформатики, інженерії, економіки, соціології, антропології, психології та етології.

Їхня стаття називається просто: «Поведінка машин». У ній автори проголошують нову галузь наукових досліджень. Вони закликають вивчати машини не як інженерні артефакти, а як агентів з властивими їм моделями поведінки: «Це схоже на те, як етологія і поведінкова екологія вивчають поведінку тварин, інтегруючи фізіологію і біохімію, тобто внутрішні властивості, з вивченням екології та еволюції - властивостей, що формуються навколишнім середовищем».

Автори кажуть, що машини і цифрові агенти стають все розумнішими і витонченішими, а середовища, в яких вони діють, ускладнюються. Зрозуміти, як поведе себе машина, знаючи лише її внутрішній пристрій і алгоритм, буде неможливо. Доведеться враховувати дії інших машин, людей і побічні ефекти, які не планувалися при її створенні.

Скажімо, один робот Spot від Boston Dynamics поводиться передбачувано; тисяча таких спотів, що діють разом, можуть перейти в режим, який зручніше описати в термінах зграї птахів або рою комах. У таких сценаріях група демонструє розуміння середовища, якого немає на рівні Севастополя. Далі, подібно до тварин, машини можуть демонструвати «соціальне навчання» - і вчитися не тільки в інших машин, а й у людей, і навіть навпаки, люди зможуть вчитися на поведінці машин.

Досліджувати такі явища корисніше і вигідніше не з позицій інженера, а як приматолог вивчає зграю мавп: спостерігаючи за поведінкою і контекстом, застосовуючи теорію ігор, досліджуючи статистику популяцій, їх еволюційне минуле і навіть проводячи експерименти.

Здобуті знання про поведінку машин стануть частиною норм, правових і соціальних, приблизно як зараз регулюється, наприклад, поводження з тваринами. Але чим розумнішими будуть машини, тим сильніше застосовувана до них етологія буде витіснятися соціологією, психологією і навіть психіатрією. Бонгард і Левін вважають, що властивість бути роботом не бінарна: можна бути роботом майже або злегка - швидше, це спектр, де змінюється ступінь «переконаності» системи.

На одному краю спектру розташовані механізми, якими керують лише прямим фізичним зусиллям, наприклад, крутя кермо і тиснучи педалі. У середині знаходяться машини, які реагують на стимули і керуються мотиваціями, їх можна дресирувати, навчати через «батіг і пряник», словом, біхевіоризм цілком працює на цьому рівні.

Дальній край спектру займають автономні машини. Їх важко змусити. Вони самі ставлять цілі. Щоб змінити їхню поведінку, потрібно домогтися зміни цілей, і найкращий спосіб зробити це - повідомити їм вагому причину, довід. Одним словом, машину такого типу доведеться переконувати.

Цей сценарій міг би здатися занадто далеким, щоб думати про нього всерйоз, але в березні 2021 року фахівці IBM Research AI представили Project Debater. Як пише журнал Nature, це «автономна комп'ютерна система, яка може брати участь у живих дебатах з людьми» і вона «натякає на майбутнє, в якому штучний інтелект допомагає людям формулювати і осмислювати складні аргументи».

Живе в єдиному просторі

Світ машин, що віщується Бонгардом і Левіним, існує у вигляді ідей і концептів. Він поки не впливає на наше життя. Але якщо йому судилося з'явитися, то станеться це стрибком, як тільки технології подолають поріг у розвитку. І не тільки інженери запозичать прийоми у біологів, але і навпаки, біологи зможуть проектувати живе на комп'ютері. Бонгард і Левін навіть показали, як: перший у себе в Берлінгтоні запустив еволюцію цифрової моделі з різних типів клітин жаби, другий за мотивами симуляції створив у бостонській лабораторії ксеноботів, живі машини (див. про це в т.ч. в нашому огляді біотеха за першу половину 2020 року).

Левін взяв звичайні живі клітини і, слідуючи моделі, з'єднав їх по-новому, як вони ніколи не поєднуються в природі, причому зовсім не чіпаючи гени. Ксеноботи нічим не нагадували жаб, ні зовні, ні поведінкою, хоча і несли в собі їх ДНК. Так Бонгард і Левін інвертували звичайний підхід до програмування, при якому розробник править «софт», але не «залізо». Вони вчинили навпаки.

Дослідження Бонгарда з роботами плюс досліди Левіна з живою матерією привели їх до думки, що машини можна створювати не так, як їх будували досі. У машин можуть з'явитися принципово нові властивості, а простір машин «якими вони можуть бути» величезно. Організми, що живуть на планеті, і машини, створені людьми - лише острови в цьому просторі.

І якщо автори «Поведінки машин» пропонували лише черпати натхнення у біологів, немов прикидаючись, що інженери мають справу з якоюсь подобою тварин (але не вірячи в це), то через два роки Бонгард і Левін зробили наступний крок - вони заявили, що ця подоба не уявна. На більш глибокому рівні механізми та організми відносяться до однієї і тієї ж категорії систем. І те, й інше - машини в новому розумінні (але не в розумінні ХХ століття). Звідси і можливість вивчати їх тими ж методами.

Бонгард і Левін бачать це як континуум різних властивостей, «які можуть бути втілені в незліченному безлічі нових реалізацій». Нова наукова дисципліна, де зійдуться біологія, обчислення та інженерія, покликана «досліджувати величезний і захоплюючий простір можливих машин».

Рак, депресія і меми

За рамками статті залишилися важкі питання, пов'язані з цим простором. По-перше, машини обіцяють бути складними, і на увазі їх еволюційного розвитку розібратися в цій складності буде вкрай важко. Коли барахліт «машина ХХ століття», її можна лагодити, виходячи з конструкції, адже та свідомо відома. Але як влаштовано «рухоме товариство компонентів», який з них за що відповідає, з'ясувати до кінця не вдасться. Якщо раптом частина деталей припинять працювати на загальну мету, стануть «раковими» - як це виправити і навіть як помітити?

По-друге, автономні машини можуть самостійно приймати масу рішень, мають уявлення і мотивації. У них є аналог того, що у живого організму назвали б психікою, і це робить їх не тільки більш гнучкими, але і більш вразливими. Не відомо, чи стануть вони страждати, якщо їм не вдасться досягти мети. І чи можливі «розлади психіки»: скажімо, чи здатні машини впадати в депресію або марити. Тут питання і в тому, як це контролювати, і в тому, як поставити діагноз.

Третє питання стосується перехоплення управління. Сьогодні в систему запускають комп'ютерний вірус, він змінює її роботу. Машина, яку слід переконувати, може бути атакована «мислевірусом» або, простіше кажучи, мемом. Люди дуже вразливі для мемів, ймовірно, для машин їх теж будуть розробляти, як і інструменти захисту. Хороша новина в тому, що таке протистояння снаряда і броні принесе багато цінних знань про природу складних систем. Але кібервійни вийдуть на новий рівень.

Однак перехід до машин нового типу не залежить від бажань Бонгарда і Левіна, вони просто сказали про це трохи раніше за інших. Вони побачили, що машини, які проектує і створює людина, втілюють лише одну можливість з великої різноманітності. Там далі лежить незвідане. Як поява комплексних чисел викликала до життя величезні нові простори математики, так і технології відкриють людям всесвіт машин, якими ті ніколи не були, але якими вони можуть бути.