Теренс Сейновський

Питання 2017 року від Edge: Який науковий термін чи поняття має бути відомий ширше?

 

 

 

У 20-му столітті ми набули глибокого розуміння фізичного світу, використовуючи рівняння і математику неперервних змінних як головне джерело прозрінь. Неперервна змінна плавно варіює в просторі та часі. На противагу простоті ракет, які дотримуються ньютонівських законів руху, нема простого способу описати дерево. В 21-му столітті, в комп’ютерних науках та біології ми прогресуємо в розумінні природи комплексності, базуючись на математиці алгоритмів, які часто мають радше дискретні, а не неперервні змінні. Алгоритм – це покроковий рецепт, якого дотримуєшся, щоб досягти мети, подібно до випікання пляцка.

 

Самоподібні фрактали виростають із простих повторюваних алгоритмів, які створюють візерунки, що нагадують кущі та дерева. Побудова реального дерева також є алгоритмом, керованим послідовністю рішень, які вмикають і вимикають гени при поділі клітини. Конструювання мозку – можливо, найвимогливіший будівничий проект у Всесвіті – також керується алгоритмами, вбудованими в ДНК, які координують розвиток зв'язків між тисячами різних типів нейронів у сотнях різних частин мозку.

 

Навчання та пам'ять у мозку регулюються алгоритмами, які змінюють сильні сторони синапсів між нейронами відповідно до історії їхньої діяльності. Навчальні алгоритми нещодавно були використані для тренування моделей глибоких нейронних мереж для розпізнавання мовлення, перекладу, створення підписів до фотографій та гри в ґо на рівні чемпіонату. Це несподівані можливості, які виникають при застосуванні тих самих простих алгоритмів навчання до різних типів даних.

 

Наскільки загальними є алгоритми, що створюють складність? Гра «Життя» – це клітинний автомат, який генерує об'єкти, котрі ніби живуть власним життям. Стівен Вольфрам хотів відкрити найпростіше правило клітинного автомата, яке могло б привести до складної поведінки, і він почав шукати серед усіх цих правил. Перші двадцять дев'ять правил створювали шаблони, які завжди повертаються до нудної поведінки: всі вузли в кінцевому підсумку мають однакове значення, потрапляють у нескінченно повторювану послідовність або нескінченні хаотичні зміни. Однак тридцяте правило вразило його складними моделями, що неперервно розвивалися. Можна було навіть довести, що тридцяте правило здатне до універсального обчислення; тобто до потужності машини Тюринґа, яка може обчислити будь-яку обчислювальну функцію.

 

Один із висновків цього відкриття полягає в тому, що дивовижна складність, яку ми спостерігаємо в природі, могла розвинутися шляхом семплювання простого “всесвіту” хімічних взаємодій між молекулами. Очікувано, що складні молекули виникли шляхом еволюції, а не вважаються чудом. Однак клітинні автомати можуть бути не найкращою моделлю для ранніх форм життя, і те, які прості хімічні системи здатні створювати складні молекули, залишається відкритим для вивчення. Може бути так, що лише особливі біохімічні системи мають цю властивість, і це би могло помогти звузити можливий набір взаємодій, із яких могло виникнути життя. Френсіс Крік та Леслі Орґел припустили, що РНК може мати такі властивості, що привело до концепції світу РНК перед появою ДНК на початку еволюції.

 

Скільки алгоритмів існує? Уявіть всесвіт усіх можливих алгоритмів. Кожна точка у всесвіті є алгоритмом, який щось виконує. Деякі надзвичайно корисні і продуктивні. В минулому ці корисні алгоритми створювали вручну математики та програмісти, які працювали як ремісники. На противагу, Вольфрам винайшов клітинні автомати, які створили надзвичайно складні шаблони за допомогою автоматизованого пошуку. Закон Вольфрама стверджує, що не потрібно далеко подорожувати у всесвіті алгоритмів, щоби знайти той, який розв’язує клас проблем, котрі тебе цікавлять. Це ніби відсилати ботів, які пробують усі можливі стратегії, гратися в забавки як StarCraft в Інтернеті. Згідно з законом Вольфрама, мусить бути спосіб знайти алгоритми десь у всесвіті алгоритмів, які можуть виграти гру.

 

Вольфрам сфокусувався на найпростіших алгоритмах у всесвіті клітинних автоматів, маленькому пів-всесвіті у всесвіті всіх можливих алгоритмів. Тепер ми маєм підтвердження закону Вольфрама у просторі нейронних мереж, які є одними з найскладніших алгоритмів, котрі коли-небудь були розроблені. Кожна мережа глибинного навчання є точкою у всесвіті всіх можливих алгоритмів, що були відкриті автоматизованим пошуком. Для великої мережі і великого набору даних навчання з різних початкових точок може згенерувати нескінченну кількість мереж, які однаково підходять для розв’язання проблеми. Кожен набір даних генерує свою галактику алгоритмів, і набори даних множаться.

 

Хто знає, що чекає нас у всесвіті алгоритмів? Можуть існувати цілі галактики корисних алгоритмів, не відкритих ще людьми, але які можуть бути знайдені через автоматизоване відкриття. 21-ше століття тільки почалось. 

 

 

Теренс Сейновський — дослідник у Медичному інституті Говарда Хьюза і професор в Інституті біологічних досліджень Солка, де він керує лабораторією обчислювальної нейробіології. Його дослідження в області нейронних мереж та обчислювальної нейронауки були піонерськими.



Terrence J. Sejnowski
Algorithms
Edge, 29.01.2017,
переклад Христини Семанюк

09.08.2017