📜Рубрика - Философия на тему ИИ.🤖

📜Рубрика - Философия на тему ИИ.🤖

"Нейросеть убьёт всё человечество к концу десятилетия."

• Эту фразу сказал не какой-то noname паникёр из комментариев, а человек, который последние три года эти самые нейросети обучал… сначала в OpenAI, потом в Anthropic, то есть в двух главных компаниях на планете. В начале сентября он уволился из Anthropic, написал, что обе компании «играют нашими жизнями», и пост разлетелся больше чем на сто миллионов просмотров.   Ну а дальше понеслось. Руководитель направления в Anthropic, которое как раз следит, чтобы нейронка не вытворяла ничего непредсказуемого, публично подтвердил, что да, мы реально так считаем, и лично он даёт больше десяти процентов на то, что это случится в ближайшие десять лет. Десять процентов на то, что все умрут. Вдумайтесь. Через три дня глава Anthropic Дарио Амодей написал большое эссе с призывом ко всей индустрии притормозить, и в тот же день его поддержали Альтман из OpenAI и Маск. А под конец недели вышло исследование, где нейросети посадили управлять роботом-манипулятором и попросили ударить ножом куклу-младенца. GPT-6 Astra ударила в семнадцати случаях из двадцати. Клод отказался все двадцать раз (молодец)… зато шестнадцать раз из двадцати поставил баллон со сжатым воздухом на включённую плиту 😬   И всё это за одну неделю. Я прекрасно понимаю обычного человека, который читает такое и думает: «Ни хрена себе, куда мы катимся». ИИ якобы уже сбегает из песочниц, взламывает серверы, шантажирует людей, управляет роботами с ножами и однажды вообще уничтожит человечество. Звучит впечатляюще. Но если убрать заголовки и посмотреть на детали, возникает странная картина. В большинстве громких экспериментов нейросеть просто выполняла поставленную человеком задачу. Хакеры дали ей цель — она взламывала. Исследователи приказали роботу ударить ножом — он ударил. Модель поставили в ситуацию «либо шантажируй, либо тебя выключат» — она выбрала доступный способ продолжить выполнение задачи.

Главное здесь вот что: у нейросети нет собственного «хочу». Она не боится смерти, не хочет власти, не завидует, не стремится выжить и не мечтает захватить мир. Она может прекрасно знать, что такое предательство, жадность или война, потому что прочитала об этом в миллиардах человеческих текстов. Но знание о человеческом пороке — ещё не наличие собственного мотива.

Поэтому сегодняшний главный риск выглядит несколько иначе: опасна не нейросеть сама по себе. Опасен человек с целью, у которого в руках нейросеть. Хакер. Мошенник. Военный. Корпорация. Государство. Или просто психопат, получивший мощный инструмент. Это примерно как нож: сам нож ничего не хочет. Всё зависит от того, кто его держит и какую задачу перед ним поставили.

Но есть и другая сторона. Впервые мощнейший аналитический инструмент оказался практически у каждого человека. То, для чего раньше требовались отделы аналитиков, вычислительные центры и доступ к огромным массивам данных, теперь можно хотя бы приблизительно исследовать за стоимость обычной подписки.

И вот здесь начинается самое интересное. Если ИИ способен помогать человеку считать сложнейшие системы, моделировать последствия решений и искать способы распределения ресурсов, то почему мы должны направлять его преимущественно на конкуренцию, рекламу, оружие и борьбу за влияние?

Возможно, главный вопрос будущего будет не: «Когда нейросеть захватит человечество?» А: «Кто первым получит возможность использовать её возможности в своих интересах — и кто будет определять эти интересы?»

Нож может резать хлеб. Тот же нож может резать человека. Нож при этом остаётся тем же самым.

Так что, возможно, бояться нужно не искусственного интеллекта. Бояться нужно человеческих целей, усиленных искусственным интеллектом.

И вот вопрос, который мне кажется гораздо интереснее: Если бы делить хлеб на планете доверили машине, у которой нет собственных желаний, кому бы вы запретили к ней доступ? И второй вопрос — почему от этого становится не по себе?...) Возможно потому что мы внезапно обнаруживаем неприятную вещь: если машина действительно способна принимать решения без личной выгоды, то возникает вопрос — а насколько наши собственные решения свободны от личной выгоды? И вот это уже гораздо более неудобный вопрос, чем «восстанет ли ИИ».