Коли люди бачать машини, які реагують на зразок людей, або комп’ютери, які виконують подвиги стратегії та пізнання, що імітують винахідливість людини, вони іноді жартують про майбутнє, в якому людству потрібно буде прийняти роботів-господарів.
Але похований у жарті - це насіння неспокою. Написання науково-фантастичних та популярних фільмів, починаючи з "2001: Космічна Одісея" (1968) до "Месники: Епоха Ультрона" (2015), розмірковувало про штучний інтелект (AI), який перевищує очікування його творців і уникає їх контролю , врешті-решт, перемагаючи та поневолення людей або спрямування їх на вимирання.
Конфлікт між людьми та ШІ є фронтом і центром науково-фантастичного серіалу AMC "Люди", який повернувся до свого третього сезону у вівторок (5 червня). У нових епізодах свідомі синтетичні люди стикаються з ворожими людьми, які ставляться до них з підозрою, страхом та ненавистю. Насильство, коли Синтс опиняється, бореться не лише за основні права, але і за власне виживання, проти тих, хто вважає їх менш людськими та небезпечними загрозами.
Навіть у реальному світі не всі готові вітати ШІ з розпростертими обіймами. В останні роки, коли комп'ютерні вчені розсували межі того, що може досягти ШІ, провідні діячі техніки та науки попереджають про небезпечні небезпеки, які може становити штучний інтелект для людства, навіть припускаючи, що можливості ШІ можуть приректи людський рід.
Але чому люди так нервують ідею про AI?
"Екзистенціальна загроза"
Елон Маск - один із видатних голосів, який підняв червоні прапори про AI. У липні 2017 року Муск заявив присутнім на засіданні Національної асоціації губернаторів: "У мене є вплив на найсучасніший ШІ, і я думаю, що люди повинні по-справжньому турбуватися про це".
"Я продовжую звучати", - додав Муск. "Але поки люди не побачать роботів, що йдуть по вулиці, вбиваючи людей, вони не знають, як реагувати, тому що це здається таким ефірним".
Раніше, у 2014 році, Маск позначив AI "нашою найбільшою екзистенційною загрозою", а в серпні 2017 року він заявив, що людство наражається на більший ризик з боку ШІ, ніж з боку Північної Кореї.
Фізик Стівен Хокінг, який помер 14 березня, також висловив занепокоєння з приводу зловмисного ШІ, заявивши Бі-Бі-Сі в 2014 році, що "розвиток повного штучного інтелекту може заклинати кінець людської раси".
Це також менше, ніж заспокоювати, що деякі програмісти - особливо ті, хто працює з MIT Media Lab в Кембриджі, штат Массачусетс, - здаються рішучими довести, що AI може бути жахливим.
Нейронна мережа під назвою "Машина кошмару", представлена комп'ютерними вченими MIT у 2016 році, перетворила звичайні фотографії у вишукані, неспокійні пекельні пейзажі. AI, яку група MIT охрестила «Шеллі», складала страшні історії, навчені 140 000 казок жаху, які користувачі Reddit розмістили на форумі r / nosleep.
"Нас цікавить, як AI викликає емоції - страх, в цьому конкретному випадку", - раніше Мануель Чебріан, керівник відділу досліджень MIT Media Lab, розповів Live Science в електронному листі про страшні історії Шеллі.
Страх і ненависть
Негативні почуття щодо ШІ, як правило, можна розділити на дві категорії: ідея про те, що AI стане усвідомленою і прагне знищити нас, і уявлення про те, що аморальні люди будуть використовувати AI в злих цілях, Кіліан Вайнбергер, доцент кафедри комп’ютерних наук в університеті Корнелла, розповів Live Science.
"Одне, чого люди бояться, це те, що якщо суперінтелектуальний ШІ - більш розумний, ніж ми - стає свідомим, він може ставитись до нас як до нижчих істот, як і до мавп", - сказав він. "Це, звичайно, буде небажаним".
Однак побоювання, що ШІ розвине усвідомлення та повалення людства, ґрунтуються на помилках уявлення про те, що таке ШІ, зазначив Вайнбергер. AI працює в дуже специфічних обмеженнях, визначених алгоритмами, що диктують його поведінку. Деякі типи проблем добре узгоджуються з наборами навичок AI, що робить деякі завдання відносно легкими для виконання AI. "Але більшість речей не відповідають цьому, і вони не застосовуються", - сказав він.
Це означає, що, хоча AI може бути здатним вражати подвиги в ретельно окреслених межах - наприклад, грати в шахи на майстер-рівні або швидко ідентифікувати предмети в зображеннях, - ось на цьому її здібності закінчуються.
"Я досягнув свідомості - прогрес у дослідженні в цій галузі абсолютно не досягнуто", - сказав Вайнбергер. "Я не думаю, що це є десь у нашому найближчому майбутньому".
Інша хвилююча ідея - про те, що недобросовісна людина буде залучати ШІ з шкідливих причин - є, на жаль, куди більш імовірною, додав Вайнбергер. В основному будь-який тип машини чи інструменту може бути використаний як для добрих, так і для поганих цілей, залежно від наміру користувача, а перспектива використання зброї штучного інтелекту, безумовно, лякає і отримає користь від суворого урядового регулювання, сказав Вайнбергер.
Можливо, якби люди могли відмовитися від страху перед ворожою ШІ, вони були б більш відкриті до визнання її переваг, запропонував Вайнбергер. Наприклад, вдосконалені алгоритми розпізнавання зображень можуть допомогти дерматологам виявити родимки, які є потенційно раковими, тоді як автомобілі, що керують автотранспортом, можуть за один день зменшити кількість загиблих внаслідок автопригод, багато з яких спричинені помилками людини, заявив він Live Live.
Але у світі людей, що усвідомлюють Синт, страхи перед свідомим ШІ викликають жорстокі конфронтації між Синтами та людьми, а боротьба між людьми та ШІ, ймовірно, продовжуватиметься безперебійною та ескалацією - принаймні протягом поточного сезону.
Примітка редактора: Це заключна особливість у трискладовій серії статей, пов’язаних із AMC "Люди". Третій сезон дебютував 5 червня о 22:00. EDT / 9:00 CDT.
