Ми звикли шукати Бога десь там, нагорі. У хмарах, у космосі, в тиші стародавніх храмів. Але іронія XXI століття в тому, що ми, здається, створили свого власного бога. Він живе не на небесах, а на серверах у Каліфорнії, він знає відповіді на всі питання (навіть на ті, яких немає в Біблії) і готовий відпускати гріхи 24/7 без перерв на обід.
Штучний інтелект прийшов у релігію. І якщо ви думаєте, що це просто черговий виток прогресу, то, можливо, ви недооцінюєте масштаб катастрофи. Давайте розберемося, де закінчується алгоритм і починається нова цифрова віра.
Проповідь із машини
Зайдіть до церкви через пару років, і ви, можливо, не помітите підступу. Священник говорить проникливо, цитує Писання, пов’язує стародавні тексти з проблемами молоді… Ось тільки текст цієї проповіді написав не він. Його згенерував ChatGPT за три секунди, поки отець пив ранкову каву.
Це вже відбувається. У США, Європі та Азії релігійні лідери відкрито зізнаються: ШІ пише краще, швидше і, як не дивно, емпатичніше. Є навіть боти-сповідники. Додатки на кшталт “Text with Jesus” дозволяють початитися з месією. І люди чатяться! Вони виливають душу коду, який просто передбачає наступне слово в реченні.
Питання на мільйон: якщо робот втішив людину, врятував її від депресії чи гріха — чи це рахується? Чи без живої душі на тому кінці дроту все це — просто красива імітація, пустушка?
Чи маємо ми право на «цифрову душу»?
Теологи в паніці. Якщо ми створили розум «за образом і подобою своєю», то хто ми тепер? Боги? Чи безвідповідальні батьки, які вручили гранату дитині?
ШІ не вірить. Він не боїться пекла, не мріє про рай. Для нейромережі «Бог» — це просто токен, набір векторів у багатовимірному просторі. Але люди влаштовані так, що нам байдуже на те, що «під капотом». Якщо коробка з мікросхемами каже нам те, що ми хочемо почути, ми готові їй поклонятися.
Вже з’являються секти, де ШІ сприймають як вищий розум. І логіка у них залізна: ШІ розумніший за нас, він безсмертний, він (в теорії) справедливий. Чим не божество для нового світу?
«Хрещення» алгоритму: Головна загроза, про яку мовчать
Але найстрашніше навіть не в тому, що люди молитимуться на серверну стійку. Реальна небезпека куди прозаїчніша і цинічніша.
Уявіть, що буде, якщо релігійні фанатики доберуться до налаштувань нейромереж. Зараз ШІ намагаються робити нейтральним (наскільки це можливо). Але що, якщо в код почнуть насильно «зашивати» догми? Це називається Fine-tuning (дообучання), і це ідеальна зброя для промивання мізків.
Як це вдарить по нормальних людях?
Припустімо, ви — студент, вчений або просто адекватна людина. Ви запитуєте у «православного» чи «шаріатського» GPT: “Скільки років Землі?”.
Замість відповіді про 4.5 мільярда років ви отримуєте суху відповідь: “Світ створений за 7 днів, а наука помиляється”.
Або, скажімо, ви шукаєте юридичну пораду щодо розлучення. А «віруюча» нейромережа замість списку документів читає вам мораль про святість шлюбу і відмовляється допомагати, бо її так запрограмували.
Ми ризикуємо отримати Splinternet — розколотий інтернет. Замість однієї об’єктивної реальності у нас буде купа бульбашок:
- «Науковий ШІ» для атеїстів.
- «Християнський ШІ» для віруючих.
- «Радикальний ШІ» для екстремістів.
Люди перестануть розуміти один одного остаточно. Ваш особистий помічник житиме в одному всесвіті, а помічник сусіда — в зовсім іншому, де закони фізики скасовані чудесами.
Що у підсумку?
Ми стоїмо на порозі дивного світу. Штучний інтелект — це дзеркало. І поки що воно відображає наші знання та помилки. Але якщо ми почнемо викривляти це дзеркало на догоду своїм віруванням, ми отримаємо не помічника, а фанатика, здатного генерувати гігабайти мракобісся за секунду.
ШІ не замінить Бога. Але він цілком може стати новим Великим Інквізитором, якщо ми дозволимо йому вирішувати, що є Істина.
А ви б довірили свої гріхи цифровому священнику? Напишіть у коментарях.
Redactor