Ключевым подтекстом попытки Илона Маска остановить коммерческую деятельность OpenAI* в области искусственного интеллекта (ИИ) является вопрос о том, насколько серьёзно следует воспринимать опасения относительно его потенциальной опасности. Адвокаты Маска утверждают, что организация была создана как благотворительная структура, ориентированная на безопасность ИИ, но свернула с пути, стремясь к финансовой выгоде. В подтверждение этого они ссылаются на старые электронные письма и заявления основателей компании о необходимости создать независимый противовес Google DeepMind, действующий в общественных интересах.
Экспертное мнение о рисках ИИ
В ходе судебного разбирательства в качестве единственного экспертного свидетеля выступил Питер Рассел, профессор компьютерных наук Калифорнийского университета в Беркли, который десятилетиями изучал ИИ. Его задачей было предоставить общий обзор ИИ и обосновать, что эта технология достаточно опасна, чтобы вызывать беспокойство.
В марте 2023 года Рассел стал одним из подписантов открытого письма, призывающего к шестимесячной паузе в исследованиях ИИ. Примечательно, что Илон Маск также подписал это письмо, одновременно с запуском xAI — своей собственной коммерческой лаборатории по разработке ИИ.
Рассел заявил присяжным и судье Ивонн Гонсалес Роджерс, что разработка ИИ сопряжена с множеством рисков. Среди них — угрозы кибербезопасности, проблемы несоответствия целей (когда ИИ неточно интерпретирует или отклоняется от человеческих намерений) и принцип «победитель получает всё» в гонке за созданием искусственного общего интеллекта (ИОИ). В конечном итоге, по его словам, существует напряжение между стремлением к созданию ИОИ и обеспечением безопасности.
Более масштабные опасения Рассела относительно экзистенциальных угроз, исходящих от неконтролируемого ИИ, не были озвучены в открытом суде, поскольку возражения адвокатов OpenAI* привели к ограничению его показаний судьёй. Однако Рассел давно критикует динамику «гонки вооружений», создаваемую передовыми лабораториями по всему миру, стремящимися первыми достичь ИОИ, и призывает правительства к более строгому регулированию этой области.
Адвокаты OpenAI* в ходе перекрёстного допроса старались показать, что Рассел не проводил прямой оценки корпоративной структуры организации или её конкретных политик безопасности.
Причины конфликта и дилемма финансирования
Суду (включая судью и присяжных) предстоит оценить значимость взаимосвязи между корпоративной выгодой и опасениями за безопасность ИИ. Практически каждый из основателей OpenAI* настойчиво предупреждал о рисках ИИ, одновременно подчёркивая его преимущества, стремясь как можно быстрее разрабатывать ИИ — и при этом вынашивая планы по созданию коммерческих предприятий, ориентированных на ИИ, которые они будут контролировать.
Очевидной проблемой, если смотреть со стороны, является растущее осознание внутри OpenAI* после её основания того факта, что для успеха организации требовались значительно большие расходы на вычислительные мощности. Эти средства могли поступить только от коммерческих инвесторов. Опасения учредителей, что искусственный общий интеллект (ИОИ) может оказаться в руках единственной организации, подтолкнули их к поиску капитала. Это в конечном итоге привело к расколу команды, спровоцировало нынешнюю «гонку вооружений» в сфере ИИ и стало причиной текущего судебного разбирательства.
Широкий контекст и избирательность аргументов
Подобная динамика уже проявляется на национальном уровне: предложение сенатора Берни Сандерса о введении моратория на строительство центров обработки данных ссылается на опасения по поводу ИИ, высказанные Маском, Сэмом Альтманом, Джеффри Хинтоном и другими. Ходен Омар, сотрудник торговой организации «Центр инноваций в области данных», возразил против того, чтобы Сандерс цитировал их опасения без упоминания их надежд. По его словам, «неясно, почему общественность должна сбрасывать со счетов всё, что говорят технологические миллиардеры, за исключением тех случаев, когда их слова могут быть использованы для заполнения пробелов в шатком аргументе».
Теперь обе стороны в этом деле просят суд поступить именно так: серьёзно отнестись к одним частям аргументов Альтмана и Маска, но не учитывать те, что менее полезны для их юридической позиции.
* — деятельность компании запрещена на территории РФ
