Сумісність: Як контролювати штучний інтелект

У масовій свідомості надлюдський штучний інтелект - технологічне цунамі, що загрожує не тільки економіці та людським відносинам, а й самій цивілізації. Конфлікт між людьми і машинами бачиться невідворотним, а його результат зумовленим. Видатний дослідник ШІ Стюарт Рассел стверджує, що цього сценарію можна уникнути. У своїй новаторській книзі автор розповідає, яким чином люди вже навчилися використовувати ШІ, в діапазоні від смертельної автономної зброї до маніпуляцій нашими вподобаннями, і чого ще зможуть його навчити. Якщо це станеться і з'явиться надлюдський ШІ, ми зіштовхнемося із сутністю, набагато могутнішою, ніж ми самі. Як гарантувати, що людина не опиниться в підпорядкуванні у надінтелекта? Для цього, вважає Рассел, штучний інтелект має будуватися на нових принципах. Машини мають бути скромними й альтруїстичними і вирішувати наші завдання, а не свої власні. Про те, що це за принципи і як їх реалізувати, читач дізнається з цієї книжки, яку найавторитетніші видання у світі назвали головною книжкою про штучний інтелект. Усе, що може запропонувати цивілізація, є продуктом нашого інтелекту; набуття доступу до інтелектуальних можливостей, які істотно перевершують інтелектуальні можливості, стало б найбільшою подією в історії. Мета цієї книжки - пояснити, чому вона може стати останньою подією цивілізації і як нам виключити такий результат. Введення поняття корисності - невидимої властивості - для пояснення людської поведінки за допомогою математичної теорії було приголомшливим для свого часу. Тим паче що, на відміну від грошових сум, цінність різних ставок і призів з погляду корисності недоступна для прямого спостереження. Першими, хто дійсно виграє від появи роботів у домі, стануть люди похилого віку і немічні, яким корисний робот може забезпечити певний ступінь незалежності, недосяжний іншими засобами. Навіть якщо робот виконує обмежене коло завдань і має лише зародкове розуміння того, що відбувається, він може бути дуже корисним. Очевидно, дії лояльних машин повинні будуть обмежуватися правилами і заборонами, як дії людей обмежуються законами і соціальними нормами. Деякі фахівці пропонують як рішення безумовну відповідальність.