Содержание
Что такое AGI и почему это важно
Я перевел статью Сэма Альтмана о новой экономике ИИ. Если вы не в курсе, кто такой А. не читайте.
«…Наша миссия — гарантировать, что AGI (универсальный искусственный интеллект) принесёт пользу всему человечеству.
Системы, приближающиеся к AGI, уже появляются, и поэтому важно осознать момент, в котором мы находимся. Хотя термин AGI слабо определён, в целом мы имеем в виду систему, способную решать всё более сложные задачи на уровне человека в различных областях.
Человечество — это строители инструментов с врождённым стремлением к познанию и созданию, что делает мир лучше для всех. Каждое новое поколение опирается на открытия предыдущих, создавая всё более мощные инструменты — электричество, транзистор, компьютер, интернет и, вскоре, AGI.
Со временем поступательное развитие человеческих инноваций привело к невообразимому ранее уровню благосостояния и улучшениям во всех сферах жизни.
В каком-то смысле AGI — это просто очередной инструмент в этой лестнице прогресса. В другом смысле — это нечто, про что сложно не сказать «на этот раз всё иначе». Перед нами — невероятный экономический рост, мир, в котором можно излечить все болезни, больше времени проводить с близкими и полностью раскрыть свой творческий потенциал.
Через десять лет, возможно, каждый человек на Земле сможет достичь большего, чем сегодня самые влиятельные личности.
Три наблюдения об экономике ИИ
Мы продолжаем наблюдать стремительное развитие ИИ. Вот три наблюдения о его экономике:
1. Интеллект модели ИИ приблизительно равен логарифму от количества ресурсов, затраченных на её обучение и работу. Эти ресурсы — вычисления, данные и мощности для инференса. Похоже, что можно тратить сколько угодно денег и получать предсказуемый рост; законы масштабирования подтверждаются в огромном диапазоне.
2. Стоимость использования ИИ снижается примерно в 10 раз каждые 12 месяцев, а снижение цен ведёт к резкому росту использования. Например, цена за токен у GPT-4 с начала 2023 года до GPT-4o в середине 2024 снизилась в 150 раз. Закон Мура менял мир, удваивая производительность каждые 18 месяцев; здесь же прогресс ещё более впечатляющий.
3. Социально-экономическая ценность линейно растущего интеллекта носит сверхэкспоненциальный характер. Это означает, что нет причин ожидать, что экспоненциальный рост инвестиций в ИИ скоро прекратится.
Если эти три наблюдения останутся верными, последствия для общества будут колоссальными.
ИИ-агенты как виртуальные коллеги
Мы начинаем развёртывание ИИ-агентов, которые со временем станут виртуальными коллегами.
Например, агент-программист. Представьте, что такой агент может выполнять задачи уровня опытного разработчика из топовой компании в течение пары дней. У него не будет крупных прорывных идей, он потребует контроля, будет отлично справляться с одними задачами и проваливать другие.
Но представьте его как реального, пусть и начинающего, виртуального сотрудника. Теперь представьте 1000 таких агентов. Или миллион. А теперь — такие же агенты во всех сферах интеллектуального труда.
Экономически ИИ может стать тем же, чем был транзистор — важным открытием, которое масштабируется и проникает во все уголки экономики. Мы не думаем о транзисторах, но ожидаем, что наши компьютеры, автомобили, игрушки будут творить чудеса.
Влияние AGI на общество и экономику
Мир не изменится мгновенно — никогда не меняется. В 2025 году люди будут жить так же, как в 2024. Всё ещё будут влюбляться, создавать семьи, спорить в интернете, гулять на природе.
Но будущее приближается, и долгосрочные изменения будут огромными. Мы найдём новые способы быть полезными друг другу и соревноваться, но они не будут похожи на сегодняшние рабочие места.
Самостоятельность, целеустремлённость и решительность будут крайне ценными качествами. Способность принимать правильные решения и адаптироваться к изменяющемуся миру станет ключевой. AGI даст каждому человеку возможность влиять на мир больше, чем когда-либо.
Влияние AGI будет неравномерным. Одни отрасли почти не изменятся, а в других, например в науке, прогресс может ускориться настолько, что затмит всё остальное.
Стоимость многих товаров со временем резко упадёт (сейчас многое ограничено ценой интеллекта и энергии), а цены на предметы роскоши и ограниченные ресурсы, такие как земля, могут вырасти.
С технической точки зрения путь перед нами выглядит достаточно ясным. Но общественная политика и отношение общества к интеграции AGI будут играть огромную роль. Одна из причин, по которой мы запускаем продукты рано и часто, — дать обществу и технологиям возможность эволюционировать вместе.
ИИ проникнет во все сферы экономики и жизни, и мы будем ожидать, что всё вокруг станет «умным». Вероятно, людям придётся предоставить больше контроля над технологиями, включая открытый исходный код, и найти баланс между безопасностью и личной свободой.
Мы не хотим действовать безрассудно, и, возможно, какие-то решения по безопасности AGI будут непопулярны. Но в долгосрочной перспективе мы считаем, что важно дать больше свободы каждому человеку. В противном случае остаётся другая перспектива — использование ИИ авторитарными режимами для массового наблюдения и подавления автономии.
Распределение выгод AGI — критически важный вопрос. Исторически технологический прогресс приводил к улучшению показателей благосостояния, но рост равенства не является автоматическим, и для этого могут потребоваться новые идеи.
Например, баланс между капиталом и трудом может сильно нарушиться, и это может потребовать раннего вмешательства. Мы рассматриваем идеи, которые могут показаться странными — например, выделение каждому человеку «вычислительного бюджета» для работы с ИИ. Однако, возможно, просто стремительное снижение стоимости интеллекта приведёт к нужному эффекту.
В 2035 году любой человек должен иметь доступ к интеллекту, эквивалентному всем людям 2025 года. Каждый должен получить в своё распоряжение безграничный гений. Сейчас в мире есть огромное количество талантов, которые не могут полностью себя реализовать из-за нехватки ресурсов. Если мы изменим это, то колоссальные преимущества получит всё человечество.
Отдельная благодарность Джошу Ачиаму, Боазу Бараку и Александру Мадри за помощь с черновиками.
* Используя термин AGI, мы стремимся к ясности и не пытаемся изменить определения, регулирующие наши отношения с Microsoft. Мы полностью рассчитываем на долгосрочное партнёрство с Microsoft. Эта сноска может показаться глупой, но мы знаем, что некоторые журналисты попытаются извлечь из этого кликбейт, так что мы просто заранее предотвращаем нелепые интерпретации…»
Вопрос к себе
В связи с этим стоит задать себе один вопрос — какую часть ИИ УЖЕ сейчас занимаем в моей созидательной жизни? Источник: https://blog.samaltman.com/three-observations