Сегодняшние версии так называемого «генеративного искусственного интеллекта» умеют компоновать правдоподобно выглядящие тексты, картинки и видео из бесчисленного множества фрагментов, скормленных «интеллекту» во время обучения. Всё, что ИИ генерирует, строится из известных и понятных нам семиотических единиц, легко и комфортно нами распознаваемых.
«Придумать» то, чего не может быть, генеративный ИИ не в состоянии по той очевидной причине, что у него нет для этого строительных материалов. На просьбу изобразить небывальщину, он нарисует кота в чешуе, с крыльями и птичьей головой, или летающее дерево, или скрученное в петлю здание, или ещё какую-то сказочную чертовщину, но всё это будет легко читаться.
Самое интересное начнётся, когда ИИ научится генерировать семиотические единицы, не коренящиеся в нашем мире, и создавать из них контент, не имеющий никакой связи с известной нам реальностью. Такой контент, скорей всего, не будет распознаваться мозгом взрослого человека. Некая информация в первую сигнальную систему попадёт, но наше сознание не сможет осмыслить и визуализировать полученное.
Возможно, для нас это будет выглядеть как серый экран, но вообще вряд ли кто-то возьмётся предсказать, как поведёт себя мозг, получивший порцию информации, которую он не сможет обработать. Предположу, что в такой ситуации он перегрузится и сломается. Взглянул человек на экран — и зомбировался.
Разумеется, отупение людей, потребляющих масс-медийный контент, это никакая не новость — но там всё же несколько иной механизм. То, о чём я говорю, не будет оглуплять человека, оно его просто «выключит». Вот это и будет настоящий боевой ИИ, а не «Скайнеты» эти ваши.
Судя по реакции на эту запись, возможность слома мозга вызывает у граждан активное неприятие. Фигня, считают граждане, и не такое видали! Справимся. Вот, опять же, результаты экспериментов…
Да в том-то и дело, судари мои, что такое — не видали. На протяжении миллионов лет природа показывала нам плюс-минус одно и то же кино, с незначительными вариациями. У тигров в процессе отвалились саблезубья, а у слонов — шерсть, но фундаментально система образов не менялась никогда. Сейчас, впервые в своей эволюции, облысевшая обезьянка вплотную подошла к возможности создания сущностей, не укоренённых в природе. Небывалых. Эта возможность пока не реализована (хотя хрен его знает: судя по тому, как стремительно мир впадает в безумие — может, нам уже показали что-то мозгосломное). Весь наш предыдущий опыт окажется бесполезным для работы с этой небывальщиной.
Ну да, нагнетаю. А то, смотрю, расслабились.