Наскільки великий ризик загинути в повстанні машин?

admin Новини технологій та техніки

Наскільки великий ризик загинути в повстанні машин?Ні, це навряд чи станеться до 21 грудня 2012 року - якщо, звичайно, Apple не випустить завтра якусь залізяку під назвою iGod.

Але в майбутньому шанси є, оптимістично вважає група вчених під керівництвом Хьюва Прайса (Huw Price) з Кембріджського університету (Велика Британія). А передумови вона бачить вже сьогодні. Масовий розвиток автономних бойових роботів, що поки знаходяться лише в стадії проектування, цілком може закінчитися тотальною роботизацією війни з подальшим виходом системи під контролю. Експлуатація ж сюжету в поп-культурі надійно захищає таку ситуацію від ретельного опрацювання військовими - або взагалі ким би то не було.

Хоча, відзначають вчені, тут треба говорити вже не про передбачення, а про констатацію факту: friendly fire («вогонь по своїх») з боку БПЛА давно не новина, поки він лише обмежений в масштабах. Строго кажучи, перепрограмування дронів супротивником у ході бойових дій також не представляється чимось нереальним, а від цього до повстання машин півкроку.

«Саме тому ми і створюємо цей дослідницький центр (Центр дослідження загроз існуванню людства, CSER) - щоб привернути увагу наукового співтовариства до проблеми», - заявив пан Прайс в інтерв'ю Бі-бі-сі. Хоча вчених хвилюють і інші загрози (глобальне потепління і інше), аналіз ризику загибелі людей в боротьбі з розумними машинами видається, мабуть, самою новаторської темою з піднятих установою.

Головною ж проблемою їм бачиться майбутнє. Вже до 2030 року розумові можливості штучного інтелекту повинні перевершити людські, запевняють нас («закон Мура невблаганний»). А такий авторитет, як Ханс Моравек (Hans Moravec), директор Інституту робототехніки Університету Карнегі - Меллона (США), прямо говорить: «У кінцевому рахунку роботи перевершать нас. Людство явно зіткнеться з вимиранням». Загалом, приблизно як у книжці, яку часто можна було знайти в ранці вбитого на Першій світовій німецького солдата: «Людина - це мотузка, натягнута між звіром і надлюдиною ... Як чудово, що людина є перехідним ступенем свого розвитку, а не тупиковою гілкою».

Головним аргументом у прихильників таких поглядів залишається знамените вигук Фермі в кафе: «Де всі?» ("Where IS everybody?"). На такому грунті цілком можна очікувати перемоги роботів: як тільки ШІ навчиться конструювати нових роботів краще людських інженерів, наш вид буде приречений, бо він все більш прогресивно спирається якраз на ШІ, а останній, таким чином, потребу в людській підтримці втратить.

Страшно? Ну, тоді нагадаємо про альтернативну теорії. Всі ми чули про Рождера Пенроуз - а це і відомий механізм, і теорія твісторов, і теорія сильної космічної цензури ... Але цей багатосторонній розум вже досить давно зробив цікаву спробу критики таких побоювань. Як він вважає, «термінатори» ніколи не завоюють Землю, бо весь досі створений людьми «штучний інтелект» так можна називати хіба що в насмішку. Він вважає, що клітинні органели до деякої міри управляються мембранними білками шляхом періодично оновлюваного колапсу заплутаного квантового стану. Тому людська свідомість і, по всій видимості, будь-яка свідомість в принципі - є квантовою, незбагненною і не може бути змодельована в рамках класичної механіки, а пояснити її можна тільки за допомогою механіки квантової. А будь-які спроби відтворити її без механізмів суперпозиції і квантової заплутаності (по Пенроуз, основа активності мозку) приречені.

Тривалий час ці погляди критикувалися - точніше, відміталися з порога - під приводом того, що квантові стани декогеріруют перш, ніж досягнуть рівня, достатнього для впливу на нейронні процеси. Нещодавно, однак, стало ясно, що як мінімум для птахів декогерірування відбувається повільніше - настільки, що вони в прямому сенсі бачать лінії магнітного поля Землі в реальному часі завдяки квантовим процесам в очах. Звичайно, то птахи, а люди можуть бути значно більш примітивними і менш просунутими еволюційно. І все ж шанси на виживання, якщо Пенроуз правий, у нас є. Великі квантові комп'ютери (КК), як вважається, або неможливо, або надзвичайно складно створити штучно - а якщо й можливо, то ними буде гранично важко керувати, що зробить створення оснащеного КК роботів безглуздим. Втім, що ми вам розповідаємо: підійдіть до дзеркала і загляньте в нього. Коли ви в останній раз твердо обіцяли собі почати бігати вранці?