Від зародкового ШІ до Технічної Сингулярності

Роман Ямпольський, Ph.D, професор Луїсвіллського університету, Кентуккі, США

XX2 ВЕК с большой радостью публикует статью «От зачаточного ИИ к Технической Сингулярности с Помощью Рекурсивно Самоулучающегося Программного Обеспечения» профессора Романа Ямпольского из Луисвиллского университета в авторском переводе. Оригінальна стаття опублікована на сайті arxiv.org.

Реферат

Програмне забезпечення, здатне себе покращувати, було мрією вчених-комп'ютерників з моменту народження галузі. У цій роботі ми даємо визначення Рекурсивно Самопокращуваного (РСУ) програмного забезпечення, досліджуємо різні типи самовлучного програмного забезпечення, робимо огляд відповідної літератури, аналізуємо обмеження на обчислення, що обмежують рекурсивне самовлучення і вносимо на розгляд теорію конвергенції РСУ, мета якої - передбачення загальної поведінки РСУ систем. Нарешті, ми звертаємося до наслідків для безпеки, що відносяться до самовлучного інтелектуального програмного забезпечення.

Введення

З перших днів інформатики фахівці-провідники галузі очікували створення самонадійної інтелектуальної системи, найчастіше, у вигляді найбільш простого шляху до створення справжнього штучного інтелекту. Вже в 1950 роках Алан Тьюрінг написав: "Замість того щоб створювати програму для моделювання розуму дорослої людини, чому б не спробувати створити таку, яка моделює розум дитини? Якщо таку програму потім піддати відповідному навчанню, то можна було б отримати мозок дорослої людини. Імовірно, мозок дитини - це щось на зразок зошита, яку купують у магазині канцелярських товарів. Досить проста річ і безліч чистих аркушів... Надія на те, що в мозку дитини є зовсім невеликий пристрій, так що щось, подібне до такого пристрою, можна легко запрограмувати. Можна припустити, що в першому наближенні обсяг роботи при навчанні (цього пристрою) такий же, як і для (пристрою в мозку) дитини ". [1]

Підхід Тьюринга до створення штучного (супер) інтелекту відгукнувся в роботах І.Дж. Гуда, М. Мінскі і Джона фон Неймана; всі троє писали про це (що цікаво, в одному і тому ж 1966-му році).

Гуд: "Нехай надінтелектуальна машина визначена як машина, яка може набагато перевершувати всю інтелектуальну діяльність будь-якої людини, якою б розумною вона не була. Оскільки конструювання машин - один з видів такої інтелектуальної діяльності, то надінтелектуальна машина могла б сконструювати навіть кращі машини; за цим, безумовно, виник би «вибух інтелекту», а розум людини залишився б далеко позаду. Таким чином, перша надінтелектуальна машина - це останній винахід, який людині коли-небудь потрібно зробити ". [2]

Мінські: "Як тільки ми розробимо програми зі справжньою здатністю до самовлучення, почнеться швидкий еволюційний процес. Оскільки машина покращує і себе, і модель себе, ми почнемо бачити явища, описувані такими термінами, як «свідомість», «інтуїція» та «інтелект». Важко сказати, наскільки ми близькі до цього порогу, але як тільки ми його переступимо, світ вже не буде колишнім ". [3].

Д.ф. Нейман: «Таким чином, існує найважливіша властивість складності, такий критичний розмір, нижче якого синтез носить ^{дегенеративний 3} характер, а вище - синтез, якщо його правильно організувати, може стати вибуховим, іншими словами, таким, коли синтез автоматів може діяти так, що кожен автомат буде виробляти інші автомати, більш складні і з більш високими можливостями, ніж він сам». [4]. Сучасними дослідниками сьогодні все ще наводяться подібні типи аргументів і популярність галузі досліджень РСУ продовжує зростати [5 - 7], хоча деякі [8] стверджують, що рекурсивний процес самозкращення вимагає надлюдських можливостей, щоб підтримувати процес, що є свого роду «Хитрощем 2^{2» 4.}

Інтуїтивно більшість з нас розуміє, що означає для програмного забезпечення бути самовлучним, однак ми вважаємо, що важливо точно визначити це поняття і систематично досліджувати різні типи самовлучення програмного забезпечення. По-перше, ми повинні визначити поняття поліпшення. Ми можемо говорити про підвищення ефективності - вирішення тієї ж проблеми швидше або з меншою потребою в обчислювальних ресурсах (наприклад, пам'яті). Ми також можемо виміряти зниження рівня помилок або побудувати більш точне наближення до оптимальних рішень, у міру того, як наш алгоритм з покоління в покоління залишається функціонально еквівалентним. Підвищення ефективності може бути віднесено або до реалізації лінійного поліпшення у відносинах між різними алгоритмами того ж класу складності (наприклад, NP), або до реалізації фундаментального поліпшення у відносинах між різними класами складності (наприклад, P по відношенню NP) [9]. Також дуже важливо пам'ятати, що клас складності Big-O⁵ алгоритму може приховувати значні постійні фактори, які, будучи неврахованими теоретично, можуть змінити відносний порядок ефективності при практичному використанні алгоритмів.

Цей тип аналізу добре працює для алгоритмів, створених для виконання конкретного завдання, але не дуже добре працює для інтелектуального програмного забезпечення широкого призначення, оскільки поліпшення в одній області може йти паралельно зниженню продуктивності в іншій області. Звідси важко стверджувати, що оновлена версія програмного забезпечення дійсно є покращеною. Взагалі кажучи, значне поліпшення, яке потрібно від самовлучення інтелектуального програмного - це висока ступінь інтелекту, яка може бути спрощено представлена за допомогою дружніх тестів машини на IQ [10] зі значною кореляцією по G-фактору⁶.

Особливий тип самовлучення, відомий як рекурсивне самовлучення (РСУ), принципово відрізняється, оскільки вимагає, щоб система не тільки сама поліпшувалася з часом, але і процес придбання кращого ставав кращим. Реальна система РСУ теоретично не може бути носієм вбиваючих віддач, а замість цього буде продовжувати робити значні поліпшення, і такі поліпшення стануть більш істотними з часом. Отже, система РСУ буде здатна самовлучитися нескінченно. На відміну від стандартного самовлучення, в РСУ можлива - в ході зміни поколінь - заміна вихідного коду іншим. Це порушує питання про те, до чого належить «само-» в цьому контексті. Якщо це не початковий код, який описує початкову суть, то що це? Можливо, можна перевизначити РСУ як рекурсивне поліпшення вихідного коду, щоб уникнути боротьби з цією філософською проблемою. Замість того щоб покращувати себе, система спробує створити іншу систему, яка успішніше досягає тих же цілей, ніж вихідна система. У самому загальному випадку, система спробує створити навіть більш розумний штучний інтелект.

У цій статті ми намагаємося визначити поняття самовлучення програмного забезпечення, розглянути можливі типи самовлучення, проаналізувати поведінку самовлучного програмного забезпечення та обговорити межі таких процесів.

Таксономія видів самозкращення

Самовлучне програмне забезпечення може бути класифіковане за ступенем самомодифікації, до якої призводить самозкращення. Загалом ми розрізняємо три рівні поліпшення:- модифікація, - покращення (слабке самозкращення) і - рекурсивне покращення (сильне самозкращення).

Самомодифікація не проводить поліпшення і, як правило, використовується для ^{заплутування} 7 коду з метою захисту програмного забезпечення від зворотної розробки або для маскування самовідтворюваних комп'ютерних вірусів від виявлення програмним забезпеченням. Хоча й відомо, що існує ряд методів заплутування коду [11], наприклад, самомодифікується код [12], поліморфний код, метаморфічний код, код переадресації [13], але жоден з них не призначений для зміни основного алгоритму. Єдина мета таких підходів - зміна виду вихідного коду для тих, хто намагається детально зрозуміти програмне забезпечення, що воно робить [14].

Самовдосконалення або Самоадаптація [15] - це бажана властивість багатьох видів програмних продуктів [16], яка зазвичай дозволяє деяку оптимізацію або підбудову програмного продукту до навколишнього середовища і до користувачів програмного продукту. Типові приклади такого програмного забезпечення включають еволюційні алгоритми, такі як генетичні алгоритми [17 - 22] або генетичне програмування, які оптимізують параметри програмного забезпечення по відношенню до будь-якої добре розумілої функції пристосованості і, можливо, перетворюють високомодульну 8 мову програмування з метою дати гарантію, що всі зміни виражаються у вигляді програмного забезпечення, яке може бути відкомпільовано і оцінено з точки зору придатності до мети.

Система може спробувати оптимізувати свої компоненти, створюючи внутрішні «турніри» між кандидатами рішень. Стівен Омохундро запропонував ідею підвищення ефективності самовдосконаленого програмного забезпечення [23]. Оскільки один з таких методів - метод балансу, то самовдосконалювані системи будуть, як правило, балансувати розподіл ресурсів між своїми різними підсистемами. Якщо система не збалансована, загальна продуктивність системи може бути збільшена шляхом перерозподілу ресурсів від підсистем, що дають невеликий (незначний) внесок у поліпшення системи, до підсистем, що забезпечує більший внесок у результат роботи системи [23]. У той час як продуктивність програмного забезпечення в результаті такої оптимізації може бути покращена, загальний алгоритм навряд чи буде змінений на алгоритм з принципово великими можливостями.

Крім того, швидко вступає в дію закон вбиваючих віддач і після початкового етапу значного поліпшення, що характеризується доступом до «низько висячих плодів» 9, подальші поліпшення можуть бути менш частими і менш значним, демонструючи криву Белла для цінних змін. Метаразмышление (размышление о размышлении), метаобучение (обучение обучению) и обучение на протяжении всей жизни - термины, которые часто используются в литературе по машинному обучению для описания самомодифицирующегося алгоритма обучения или процесса выбора алгоритма, который в области конкретной проблемы будет работать лучше всего [24]. Юдковський називає такий процес нерекурсивною оптимізацією - це ситуація, в якій один компонент системи проводить оптимізацію і інший компонент стає оптимізованим [25].

В області складних динамічних систем, описаних т. зв. теорією хаосу, добре відомі системи з позитивним зворотним зв'язком, які в кінцевому підсумку завжди приходять до того, що відомо як атрактор - область у просторі станів системи, з якої система не може вибратися [26]. Гарний приклад подібності до такого атрактора - процес мета- або суперкомпіляції [27], в якому програма розроблена так, щоб взяти вихідний код, написаний людиною-програмістом, і оптимізувати його з точки зору швидкості, застосувавши оптимізацію до свого власного вихідного коду. Це, ймовірно, забезпечує найбільш ефективне компілювання при першому застосуванні, можливо, до 20%, друге - до 3%, а після декількох рекурсивних ітерацій - сходиться до фіксованої точки з нульовим поліпшенням [26].

Рекурсивне самовлучення - це єдиний тип поліпшення, у якого є можливість повної заміни вихідного алгоритму на зовсім інший підхід і, що більш важливо, можливість зробити це кілька разів. На кожному етапі новостворене програмне забезпечення має краще оптимізувати кожну майбутню версію програмного забезпечення порівняно з вихідним алгоритмом. На момент написання цієї статті це суто теоретична концепція без існуючого, як відомо, працюючого програмного забезпечення РСУ¹⁰. Однак, оскільки багато хто передбачав, що такі програми можуть стати реальністю в 21 столітті, то важливо дати деякий аналіз властивостей такого софту, який став би реальністю.

Самомодифікуючі і самовлучні програмні системи вже добре зрозумілі і широко поширені. Отже, ми зосередимося виключно на системах з РСУ. У практичній діяльності майже будь-яка система може бути тривіальним чином поліпшена додаванням додаткових обчислювальних ресурсів, таких як пам'ять, більш висока роздільна здатність сенсора, більш швидкий процесор або більш висока пропускна здатність мережі для доступу до інформації.

Таке лінійне масштабування не підходить під визначення рекурсивного поліпшення, оскільки система не стає кращою з точки зору самовлучення. Щоб задовольнити визначення рекурсивного поліпшення, система повинна була б розробити більш швидкий тип пам'яті, а не тільки «прикупити» побільше одиниць пам'яті такого типу, до якої вона вже має доступ. Загальне удосконалення «заліза», ймовірно, може прискорити роботу системи, тоді як для досягнення метавлучшень (поліпшення процесу поліпшень) необхідно поліпшення програмного забезпечення (нові алгоритми).

Вважається, що системи ШІ матимуть ряд переваг порівняно з людьми-програмістами, що дає ШІ можливість досягати успіху там, де люди зазнавали невдач. Такі переваги включають в себе [28]:

1. тривалу роботу (без перерв, без сну, без відпусток тощо). д.),
2. універсальність знання (рівень експертних знань у всіх галузях науки, отримання знань з усіх опублікованих робіт),
3. переважаючі обчислювальні ресурси (процесор порівняно з мозком, оперативна пам'ять порівняно з пам'яттю людини),
4. швидкість комунікації (зв'язку в системі ШІ порівняно з нейронами),
5. збільшення глибини послідовного доступу (здатність виконувати послідовні операції доступу в 100 разів вище, ніж мозок людини),
6. дублювання (інтелектуальне програмне забезпечення може бути миттєво скопійовано),
7. можливість редагування (початковий код, на відміну від ДНК, можна швидко змінити),
8. координація з мети (примірники ШІ можуть працювати на досягнення загальної мети без великих накладних витрат),
9. покращена розумність (ШІ, швидше за все, буде вільний від когнітивних упереджень людини) [29]
10. нові сенсорні ^{модальності11} (спеціально створені сенсорні апаратні засоби для вихідного коду),
11. об'єднання процесів вирішення завдань і процесів автоматизації (управління обчислювальними ресурсами для обробки декількох завдань),
12. інтроспективне сприйняття і управління (здатність аналізувати обладнання глибокого рівня, наприклад, окремих нейронів),
13. додавання апаратного забезпечення - «заліза» (можливість додавання нової пам'яті, сенсорів тощо). д.),
14. розвинена комунікація (здатність ділитися основними когнітивними уявленнями, що мають відношення до спогадів і навичок) [30].

Девід Чалмерс [31] використовує логіку і математичну індукцію, щоб показати, що якщо система ИИ₀ здатна виробляти тільки трохи більш здатну систему ИИ₁, то узагальнення цього процесу веде до надрозумної поведінки _ІІn після n поколінь. Він пояснює, що його доказ, який передбачає ідею пропорційності, тобто стверджує, що зростання інтелекту призводить до пропорційного зростання здатності розробки майбутніх поколінь ШІ, є вірним.

Ерік Нівел з колегами запропонував формалізацію систем РСУ у вигляді автокаталітичних безліч - наборів якихось сутностей, що складаються з елементів, кожен з яких може бути створений іншими елементами безлічі, що надає безлічі можливість самопідтримання і самозасновлення.

Дослідники перерахували властивості системи, які роблять її корисною, цілеспрямованою і самоорганізованою, а саме:

1. рефлективність - здатність аналізувати і переписувати свою власну структуру;
2. автономність - бути вільною від впливу розробників системи (обмежена автономія - це властивість системи з елементами, які не є об'єктами самозміни);
3. ^{ендогенность12} - здатність до автокаталізу [32].

Ерік Нівел і Крістінн Торіссон також спробували зробити більш застосовним поняття «автономія» за допомогою ідеї самопрограмування, яке, як вони стверджують, повинно бути реалізовано практично, а не теоретично (через докази правильності), оскільки тільки так можна відстежити прояв цього підходу [33].

Елієзер Юдковський багато пише про рекурсивні самовдосконалювані процеси і вважає, що введення певних концепцій може бути корисним для обговорення, зокрема, він пропонує використовувати терміни - каскади, цикли та інсайт, які визначає наступним чином:

1. Каскади - коли одне удосконалення призводить до іншого;
2. Цикли - повторюваний каскад, в якому одна оптимізація призводить до іншої, яка, в свою чергу, приносить користь вихідній (початковій) оптимізації;
3. ^{Інсайт13} - нова інформація, яка значно збільшує чиюсь здатність до оптимізації [34].

Юдковський також пропонує, що цінні властивості і ряд можливостей в просторі рішень слід розглядати як Схил оптимізації, тоді як оптимізація ресурсів і ефективність оптимізації - до якого обсягу обчислювальних ресурсів має доступ агент, і наскільки ефективно зазначені ресурси агент використовує.

Агент, що має значну оптимізаційну потужність [25], включений у процес оптимізації і здатний вирішити нетривіальні завдання у великому просторі пошуку описаний в [35].

Програмне забезпечення РСУ може бути класифіковане залежно від кількості поліпшень, яку воно здатне забезпечити. Найбільш простий випадок - система, здатна приносити єдине фундаментальне поліпшення. Є надія, що по-справжньому РСУ-софт буде здатний на безліч таких поліпшень, але питання залишається відкритим щодо можливості нескінченного числа рекурсивних поліпшень. Цілком можливо, що існує деяка верхня межа поліпшень, що обмежує будь-який РСУ-софт кінцевим числом бажаних і значущих перезаписів коду. На сьогоднішній день критики пояснюють невдачу в досягнення стійкого процесу РСУ тим, що дослідники РСУ стали жертвами бутстрапного¹⁴ омани.

Інша вісь, за якою можна класифікувати РСУ-системи, повинна бути пов'язана з тим - як поліпшення виявляються. Вважається, що існують два принципово різних підходи.

Перший підхід - це прямий перебір [37], який використовує Левін (Універсальний [38¹⁵]) Пошук [39¹⁶]. Ідея полягає в тому, щоб розглянути всі можливі рядки вихідного коду до деякого граничного розміру і вибрати ту, яка доказово може дати поліпшення. Але ось на практиці, якщо теоретично оптимальне і гарантовано краще рішення існує, цей метод вирахувати не дозволяє. Деякі варіанти такого підходу до самовлучення - машини Гьоделя [40 - 45], Вирішувач оптимально впорядкованих проблем [46] і Поступові Самовлучники [47, 48], - були ретельно проаналізовані Шмідхубером і його співавторами.

Другий підхід передбачає, що система має певний рівень наукової компетентності, використовує його при розробці та тестуванні своєї власної заміни. Чи винаходиться навмисно більш досконала система з будь-якими здібностями і, таким чином, більш складна - залишається фундаментально відкритою проблемою досліджень в РСУ.

Нарешті, ми можемо розглянути гібридну систему РСУ, яка включає як штучно інтелектуальну програму, так і людину - науковця. Об'єднані колективи «Людина - ШІ» були дуже успішними в багатьох областях, наприклад, в шахах або при доказі теорем. Було б дивно, якби об'єднання природного і штучного інтелектів не дало переваги в розробці нових систем ШІ або посилення природного інтелекту. Ми з вченими-комп'ютерниками проводимо експерименти з обмеженою версією такого підходу, поступово розвиваючи більш досконалий варіант програмного забезпечення ШІ (використовуючи програмні засоби, що постійно вдосконалюються), але оскільки самі вчені залишаються «невлучшеними», ми не можемо говорити про самовлучення. Цей тип РСУ можна класифікувати як непряме рекурсивне поліпшення, на відміну від прямого РСУ, в якому система сама відповідальна за всі модифікації. Інші види непрямого РСУ можуть ґрунтуватися на співпраці декількох систем Штучного Інтелекту, а не ШІ і груп дослідників [49].

На додаток до класифікації по відношенню до видів РСУ, можна також оцінити системи по відношенню до певних бінарних властивостей. Наприклад: можна бути зацікавленими тільки в системах, які гарантовано не знижують інтелект, навіть тимчасово, в процесі вдосконалення. Це буде неможливо, якщо область інтелектуального рельєфу містить точки локальних максимумів.

Ще одна властивість будь-якої системи РСУ, в кращому розумінні якого ми зацікавлені, - необхідність незмінних сегментів (ділянок) вихідного коду. Іншими словами, система РСУ повинна бути в змозі змінити будь-яку частину свого вихідного коду, але певні частини системи (закодовані цілі, перевірка модулів) повинні залишитися незмінними з покоління в покоління. Такі ділянки наче ультраконсервативні елементи або консервативні послідовності ДНК [50, 51], знайдені серед багатьох родинних видів.

Це питання особливо важливе для збереження мети самовлучного інтелектуального програмного забезпечення, оскільки ми хочемо переконатися, що майбутні покоління системи мотивовані працювати над тією ж проблемою [31]. У міру того, як ШІ проходить процес РСУ і стає розумнішим і раціональнішим, він, швидше за все, втягується в процес відходу від будь-яких обмежень, які при програмуванні ми в нього внесли [8]. В ідеалі, нам хотілося б бути в змозі довести, що навіть після рекурсивного самовдосконалення наш алгоритм зберігає ті ж цілі, що і його оригінал.

Докази безпеки або коректності алгоритму застосовуються тільки до конкретного вихідного коду, і алгоритм необхідно було б переписати і заново довести (його безпеку і коректність), якщо код змінено, що відбувається в РСУ програмі багато разів. Але ми підозрюємо, що новий доказ для злегка зміненого коду може бути простішим, ніж доказ безпеки повністю нового сегмента (ділянки) коду.

Ми також зацікавлені в розумінні, чи може процес РСУ йти в ізольованій (у вільній від витоків [52]) системі або необхідна взаємодія із зовнішнім середовищем - інтернетом, людьми і, при необхідності, з іншими агентами ШІ. Можливо, доступ до зовнішньої інформації може бути використаний в якості непрямого свідоцтва про швидкість процесу РСУ. Доступ до зовнішньої інформації також має значну причетність до механізмів безпеки, який ми можемо використовувати при експериментах з ранніми системами РСУ [53 - 61]. Нарешті, необхідно дослідити - чи може весь процес РСУ бути припинений в будь-який момент часу і на будь-який конкретний період часу, щоб обмежити негативний вплив від можливого «вибуху» інтелекту. В ідеалі ми б хотіли бути здатними запрограмувати наш «зародок» ШІ до такого моменту/рівня РСУ, щоб ШІ досяг певного рівня інтелекту, зупинився і став чекати подальших інструкцій.

Про межі рекурсивно самовлучних систем штучного інтелекту

Сама можливість рекурсивного самовлучення софта залишається недоведеною. У цьому розділі ми представляємо ряд аргументів проти можливості рекурсивного самовлучшення.

Перш за все, будь-яка реалізована програмна система залежить від апаратних засобів пам'яті, зв'язку та обробки інформації, необхідних, навіть якщо припустити, що для роботи такої програмної системи це буде не архітектура фон Неймана (тобто квантова). Це створює суворі теоретичні межі обчисленням, які, незважаючи на апаратні досягнення, прогнозовані законом Мура, будь-яка майбутня апаратна парадигма не зможе подолати.

Бремерманн [63], Бекенштейн [64], Ллойд [65], Сандберг [66], Ааронсон [67], Шеннон [68], Краусс [69] і багато інших досліджували кінцеві межі обчислень у термінах швидкості, зв'язку і споживання енергії щодо таких факторів, як швидкість світла, квантовий шум і гравітаційна постійна. Для виявлення меж підвищеного інтелекту були також проведені деякі дослідження [70]. Хоча їх конкретні числові дані знаходяться за рамками даної роботи, одне безперечно: є кінцеві фізичні межі обчислень.

Оскільки більш складні системи мають більшу кількість компонентів і вимагають більше матерії, навіть якщо окремі елементи створені на нанорівні, можна зробити висновок, що, оскільки матерія та енергія пов'язані безпосередньо [71], а також матерія та інформація («все з біта») [72], то матерія та інтелект пов'язані теж. Поки ми, очевидно, далекі від зіткнення з якимись обмеженнями, що накладаються доступністю матерії у Всесвіті для будівництва наших суперкомп'ютерів, це певна теоретична верхня межа на досяжний інтелект навіть для гіпотези про Мультивселену.

На додаток до обмежень, властивих апаратним засобам, обмеження, пов'язані програмним забезпеченням, можуть представити ще більші перешкоди для систем РСУ. Інтелект вимірюється не як окрема цінність, а щодо проблем, які він дозволяє вирішити. Для багатьох завдань, таких як гра в шашки [73], можна повністю вирішити проблему (забезпечити оптимальне рішення після розгляду всіх можливих варіантів), після чого ніяке додаткове поліпшення продуктивності було б неможливим [74].

Інші проблеми, як відомо, є нерозв'язними, незалежно від рівня інтелекту, використаного для їх вирішення [75]. Вважаючи, що розподіл класів складності (наприклад, P по відношенню до NP) залишиться в силі [9], стає ясно, що деякі класи завдань завжди будуть залишатися приблизно дозволеними і які-небудь поліпшення в рішеннях будуть отримані за допомогою додаткових апаратних засобів, а не через більш високого інтелекту.

Відерманн вважає, що пізнавальні системи утворюють нескінченну ієрархію, і з обчислювальної точки зору рівень інтелекту людини обмежений зверху класом Σ2 Арифметичної Ієрархії [76]. Оскільки багато справжніх глобальних проблем є обчислювально нездійсненними для будь-яких нетривіальних підходів, навіть ШІ, що досягає рівня людини, навряд чи підніметься до більш високих рівнів ієрархії пізнання. Таким чином, хоча теоретично машини з надтьюринговською обчислювальною потужністю можливі, на практиці вони є нереалізованими, оскільки необхідна для їх функціонування інформація, неможлива для комп'ютерної обробки, саме така - неможлива для комп'ютерної обробки.
На основі цього Відерманн стверджує, що в той час як машини майбутнього набагато швидше і більш надійно зможуть вирішити проблеми, що вирішуються людьми, вони будуть як і раніше обмежені обчислювальними межами, виявленими на верхніх рівнях Арифметичної Ієрархії [75, 76].

Махоні намагається формалізувати наступне - що означає для програми «мати мету G» і «самовлучитися» по відношенню до можливості досягти зазначеної мети в умовах обмеженого часу t [77]. Махоні визначає мету як функцію G: N ^ R, що відображає натуральні числа N в реальні числа R. Розглядаючи універсальну машину Тьюринга L, Махоні визначає P (t) - позитивне натуральне число, отримане на виході програми P, з входом t, запущеної на універсальній машині Тьюрінга L після кроків "