Схоже, місяць не проходить без жодної гучної людини, яка коментує потенціал, щоб машини з Штучним інтелектом завоювали світ. Елон Маск каже, що системи ШІ "потенційно небезпечніші за ядерні ядра". Але він не єдиний, Стівен Хокінг також стурбований: "Розвиток повного штучного інтелекту може призвести до кінця людської раси". Професор Хокінг розповів BBC. "Він відірветься самостійно і переробляє себе з постійно зростаючими темпами". Навіть Білл Гейтс хвилюється: "Я в таборі, який турбується про супер інтелект. Я погоджуюсь з Елоном Моском та деякими іншими щодо цього, і не розумію, чому деяких людей це не стосується. "

Всі вони висловлюють занепокоєння щодо можливості потужних систем ШІ, які мають ненавмисні або навіть потенційно катастрофічні наслідки. Ще в січні Елон Маск пожертвував 10 мільйонів доларів Інституту майбутнього життя (FLI) для проведення глобальної програми досліджень, спрямованої на підтримку ШІ корисною для людства.

Сьогодні Інститут майбутнього життя оголосив, що виділив кошти в розмірі 7 мільйонів доларів 37 науково-дослідним командам по всьому світу, щоб суспільство могло пожинати переваги ШІ, уникаючи апокаліпсису та кінця життя на землі.

Небезпека сценарію "Термінатор" полягає не в тому, що це відбудеться, а в тому, що він відволікає від реальних проблем, що виникають у майбутньому ШІ.

Джаан Таллін, один із членів-засновників FLI та хлопець, який написав оригінальну версію Skype, сказав про нові дослідження: «Створення передового ІІ - це як запуск ракети. Перший виклик - це максимізувати прискорення, але як тільки він починає набирати швидкість, вам також потрібно зосередитися на рульовому керуванні ».

Серед 37 проектів - три проекти, які розглядатимуть методи, що дозволяють системам ШІ дізнатись, що люди віддають перевагу від спостереження за нашою поведінкою. Один з таких проектів буде здійснюватися в УК Берклі, а один - в Оксфордському університеті.

Бенджа Фалленштейн, з Інституту машинного інтелекту, отримує 250 000 доларів на дослідницькі шляхи, щоб підтримувати інтереси надінтелектуальних систем у відповідності з людськими цінностями. У той час як команда Мануели Велосо з університету Карнегі-Меллон отримає 200 000 доларів, щоб розглянути, як змусити системи ШІ пояснювати свої рішення людям.

Інші проекти включають дослідження Майкла Вебба зі Стенфордського університету про те, як утримати економічний вплив ІІ на користь, проект про те, як тримати зброю, керовану ШІ, під «значущим контролем людини» та новий дослідницький центр Оксфорда-Кембриджа для вивчення А.І. -відповідна політика.

Цей останній - великий джекпот. Новий центр під назвою "Центр стратегічних досліджень штучного інтелекту" очолить Нік Бостром, хлопець, який написав книгу, що спричинило паніку Елона щодо майбутнього людства. Щоб створити центр, ФЛІ дає «Бострому» круті 1,5 мільйона доларів. Хто сказав, що немає грошей на написання матеріалів про роботів, які заволоділи світом? Ну насправді ніхто, просто подивіться, скільки грошей заробляє Голлівуд із цього жанру!

Якщо говорити про Голлівуд, FLI намагається відмежуватися від апокаліпсису. FLI прагне підкреслити важливість відокремлення факту від художньої літератури. "Небезпека сценарію" Термінатор "полягає не в тому, що це відбудеться, а в тому, що він відволікає від реальних питань, що виникають у майбутньому ШІ", - заявив президент FLI Макс Тегмарк. "Ми залишаємось зосередженими, і 37 команд, які підтримуються сьогоднішніми грантами, повинні допомогти вирішити такі реальні проблеми".

Як ти гадаєш? Гроші добре витрачені?