Технології можуть вийти з-під контролю - Bloomberg

У людства є метод, як запобігти виходу з-під контролю нових технологій. Він поляга в тому, щоб вивчити можливі негативні наслідки, співпрацювати з усіма сторонами, які можуть постраждати, і укласти домовленості про способи пом'якшення негативних ефектів.

Однак, нове дослідження вказує, що пришвидшення технологічного розвитку може зробити такий метод неефективним.

Про це пише Bloomberg. Люди використовують закони, соціальні норми і міжнародні угоди для того, щоб скористатися перевагами технологій і мінімізувати небажані ефекти, такі як шкода для довкілля.

"Ставлячи за мету пошук потрібних правил поведінки, ми часто черпаємо натхнення з того, що експерти з теорії ігор називають "рівновагою Неша". В ігровій теорій це низка стратегій, які, будучи освоєними гравцями, забезпечують стабільну точку, в якій ніхто не може відступити від своєї поточної стратегії", - йдеться в статті.

Щоб досягти такої рівноваги, гравцям потрібно зрозуміти наслідки своїх і чужих потенційних дій. Під час Холодної війни, приміром, мир між ядерними державами залежав від розуміння, що будь-яка атака означатиме повне взаємне знищення. Схожим чином у багатьох сферах: від місцевого регулювання до міжнародного закону - переговори можуть зводитися до вивчення всіх можливих ходів для визначення стабільного формату правил, прийнятного для всіх, щоб ні в кого не було бажання мухлювати, інакше він опиниться в гіршій позиції.

Але що як технології стануть настільки складними і почнуть розвиватися так швидко, що люди не зможуть уявити наперед наслідки? Це питання нещодавно було висловлене експертами Дмитром Кузнєцовим і Венделлом Джонсом. Вони дійшли висновку, що концепція стратегічної рівноваги як організаційного принципу може абсолютно застаріти.

Точка зору Кузнєцова і Джонса базується на нових матерематичних дослідженнях у теорії ігор з багатьма гравцями і великим вибором ходів. Одним з головних висновків став жорсткий поділ умов на стабільні і нестабільні. До певної межі складності "рівновага Неша" цілком зручна для визначення потенційних наслідків. Але за цим рівнем починається зона хаосу, де гравці ніколи не можуть знайти стабільну і надійну стратегію. Натомість їм доводиться часто і різко змінювати свою поведінку і робити це дуже непослідовно. Таким чином, події відбуваються випадково і непердбачувано.

Експерти зауважують, що новітні технології у галузі обчислення, розробки програмного забезпечення і біотехнологій, зокрема генної модифікації, швидше за все, входять у категорію нестабільних умов. У цих сферах помилки стають більшими і частішими, оскільки вартість досліджень скорочується, а використання спільних платформ дозволяє швидше відкривати іновації. Тому такі технології розвиваються швидше, ніж звичайні регуляторні формати можуть відреагувати.

Раніше винахідник Ілон Маск назвав штучний інтелект більшою загрозою, ніж КНДР. Відповідну заяву бізнесмен зробив на своїй сторінці в Twitter.