Ми часто шукаємо відповіді на питання, попередньо не переконавшись у тому, чи розуміємо ми саме питання або чи правильно воно сформульовано. У своїх лекціях про відносини людини і машини Каспаров любить цитувати Пабло Пікассо, який в одному інтерв'ю сказав: «Комп'ютери марні, оскільки вони можуть тільки давати відповіді». Відповідь як кінець, повну зупинку, а для Пікассо не існувало кінця, тільки все нові і нові питання. Комп'ютери є відмінними інструментами для пошуку відповідей, але вони не вміють задавати питання, принаймні, в тому сенсі, який в це поняття вкладають люди.
У 2014 році Каспаров почув цікаву думку з приводу цього твердження. Його запросили виступити в штаб-квартирі найбільшого в світі хеджевого фонду Bridgewater Associates (Коннектикут). Що дуже показово, компанія найняла Дейва Ферруччі, одного з розробників знаменитого суперкомп'ютера Watson IBM, який прославився своїми перемогами в американській телевікторині Jeopardy. За словами Ферруччі, він був розчарований підходом IBM до штучного інтелекту, цілком орієнтованим на аналіз даних. Сам же Ферруччі хотів дослідити більш складні шляхи, намагаючись дізнатися «чому», а не тільки виявити корисні кореляції за допомогою аналізу даних. Він хотів вийти за межі безпосередніх практичних показників і навчитися отримувати результати, які виведуть нас на новий рівень розуміння, а не будуть простими відповідями.
Ферруччі, хотів «створити машину, здатну об'єднати дедуктивні та індуктивні процеси для розвитку, застосування, уточнення і пояснення фундаментальної економічної теорії».
Це справжній Грааль, гідний священного пошуку і особливо «пояснення». Навіть найсильніші шахові програми не можуть дати своїм блискучим ходам логічних обґрунтувань за межами елементарних тактичних варіантів. Вони роблять сильний хід тільки через те, що той отримав найвищу оцінку в порівнянні з іншими, а не тому, що застосовують міркування, зрозумілі людям.
Найсильніші машини, безсумнівно, корисні для тренувальних партій і проведення аналізу, але намагатися вчитися у них грі в шахи - все одно що навчатися алгебри у калькулятора.
Машини самі по собі не знають, які результати важливі і чому - визначити це самостійно вони можуть тільки, якщо мають відповідні параметри або достатньо інформації. Але що для машини має значення? Машина визначає щось як значиме чи ні на підставі знань, які в ній запрограмовані, а знання закладають в машину не хто інші, як люди. Принаймні так було протягом довгого часу. Але сьогодні наші машини починають дивувати нас не тільки результатами, але і методами, які вони використовують для досягнення результатів, а це величезна різниця.
Наведу спрощений приклад: традиційна шахова програма знає правила гри. Вона знає, як ходять фігури і що таке мат. У неї також закладені відомості про відносну вартість фігур (пішак - одиниця, ферзь - десять одиниць і т.д.) та інші знання, наприклад про мобільність фігур і пішакову структуру. Все, що виходить за рамки правил, класифікується як знання. Якщо ви навчите машину, що ферзь дешевше пішака, вона буде жертвувати його без жодних вагань.
Але що якщо не закласти в машину ніяких знань? Що якщо навчити її тільки правилам, а все інше дозволити зробити самій? Тобто самій дізнатися, що тура цінніше слонів, що здвоєні пішаки - слабка структура і що відкриті лінії можуть бути корисні. Це дає можливість не тільки створити сильну шахову машину, але і дізнатися дещо нове з того, що виявить машина і як вона це виявить.
Саме це сьогодні роблять системи штучного інтелекту, використовуючи такі методи, як генетичні алгоритми і нейронні мережі, щоб, по суті, програмувати самих себе. На жаль, їм ще не вдалося перевершити в силі традиційні програми з швидким пошуком, тому вони більше покладаються на жорстко закодовані людські знання. Але причина цього - в самих шахах, а не в методах. Чим складніше предмет, тим вище ймовірність того, що відкриті, самостійно створені алгоритми перевершать алгоритми на основі фіксованих людських знань. Шахи поки недостатньо складні для цього, і навіть я повинен визнати, що в житті не все так просто, як на шахівниці.
У 1989 році два провідних спеціаліста в області комп'ютерних шахів написали есе «Покарання за сходження зі шляху істинного». Вони розкритикували методи, за допомогою яких шахові машини зуміли наблизитися до гросмейстерський рівню. Одним з авторів був радянський учений Михайло Донський, який входив в число творців програми «Каїсса», переможниці першого чемпіонату світу з шахів серед комп'ютерних програм. Другим - Джонатан Шеффер, який разом зі своїми колегами з Університету Альберти в Канаді протягом декількох десятиліть займався розробкою найбільш передових ігрових машин. Крім шахових програм він створив сильну програму для гри в покер і програму Chinook для гри в шашки, яка брала участь в чемпіонаті світу і стала практично непереможною.
У своїй провокаційною статті, опублікованій в авторитетному комп'ютерному журналі, Донський і Шеффер описали, як протягом багатьох років комп'ютерні шахи все більше віддалялися від штучного інтелекту. Вони вважали, що головною причиною цього розриву став приголомшливий успіх пошукового алгоритму «альфа-бета». Навіщо шукати щось ще, якщо виграшний метод вже знайдено? «На жаль, ця потужна ідея з'явилася на занадто ранньому етапі розвитку комп'ютерних шахів», - стверджували автори статті. Оскільки значення мала виключно перемога будь-якою ціною, технічна сторона справи взяла верх над наукою. Розпізнавання образів, розвиток знань і інші людські методи були відкинуті, оскільки супершвидка груба сила забезпечувала успіх.
Притаманні шаховій грі обмеження були не єдиною фундаментальним помилкою в цьому рівнянні. Розуміння штучного інтелекту, на яке спиралася комп'ютерна наука, також виявилося помилковим. Основні припущення, що стояли за мрією Алана Тьюринга про штучний інтелект, полягали в тому, що людський мозок багато в чому схожий на комп'ютер, тому треба створити машину, яка успішно імітує людську поведінку. Дана концепція домінувала протягом багатьох поколінь вчених-комп'ютерників. Приваблива аналогія - нейрони як транзистори, кора як банк пам'яті і т.д. Але ця красива метафора не підтверджена ніякими біологічними доказами і відволікає нас від фундаментальних відмінностей між людським і машинним мисленням.