Генеративный ИИ вреден для окружающей среды?Ученый-компьютерщик объясняет углеродный след ChatGPT и его собратьев

Генеративный искусственный интеллект — это новая технология, лежащая в основе чат-ботов и генераторов изображений.Но насколько горячей она делает планету?

Как исследователь искусственного интеллекта, Меня часто беспокоят затраты энергии на создание моделей искусственного интеллекта.Чем мощнее ИИ, тем больше энергии ему требуется.Что означает появление все более мощных генеративных моделей ИИ для будущего углеродного следа общества?

«Генераторный» относится к способности алгоритма ИИ создавать сложные данные.Альтернатива «дискриминирующий» ИИ, который выбирает между фиксированным количеством вариантов и выдает только одно число.Примером дискриминационного результата является выбор, одобрять ли заявку на получение кредита.

Генеративный ИИ может создавать гораздо более сложные результаты, такие как предложение, абзац, изображение или даже короткое видео.Он уже давно используется в таких приложениях, как интеллектуальные колонки для генерации аудиоответов или в автозаполнении, чтобы предложить поисковый запрос.Однако лишь недавно он получил возможность генерировать человеческий язык и реалистичные фотографии.

Использование большего количества энергии, чем когда-либо

Точную стоимость энергии для одной модели ИИ трудно оценить, и она включает в себя энергию, затраченную на производство вычислительного оборудования, создание модели и использование модели в производстве.В 2019 году исследователи обнаружили, что создание генеративной модели ИИ под названием BERT со 110 миллионами параметров израсходовал энергию трансконтинентального перелета туда и обратно для одного человека.Количество параметров относится к размеру модели, причем более крупные модели обычно более квалифицированы.Исследователи подсчитали, что создание гораздо более крупного GPT-3, имеющего 175 миллиардов параметров, потребили 1287 мегаватт-часов электроэнергии и произвели 552 тонны углекислого газа в эквиваленте., что эквивалентно 123 пассажирским автомобилям с бензиновым двигателем, эксплуатируемым в течение одного года.И это только для того, чтобы подготовить модель к запуску, прежде чем потребители начнут ее использовать.

Размер — не единственный показатель выбросов углекислого газа.Открытый доступ Блум модель, разработанный проект BigScience во Франции по размеру похож на GPT-3, но имеет гораздо меньший углеродный след, потребляя 433 МВтч электроэнергии при производстве 30 тонн эквивалента CO2.Исследование Google показало, что при том же размере использование более эффективной модели архитектуры и процессора, а также более экологичного центра обработки данных может снизить выбросы углекислого газа. в 100-1000 раз.

Более крупные модели потребляют больше энергии во время развертывания.Данные об углеродном следе одного генеративного запроса ИИ ограничены, но некоторые отраслевые деятели оценивают его как в четыре-пять раз выше чем запрос поисковой системы.Поскольку чат-боты и генераторы изображений становятся все более популярными, а Google и Microsoft включать модели языка ИИ в свои поисковые системы, количество запросов, которые они получают каждый день, может расти в геометрической прогрессии.

AI-боты для поиска

Несколько лет назад немногие люди за пределами исследовательских лабораторий использовали такие модели, как BERT или GPT.Ситуация изменилась 1 ноября.30 декабря 2022 года, когда OpenAI выпустила ChatGPT.По последним доступным данным, у ChatGPT было более 1,5 миллиарда посещений в марте 2023 года.Microsoft включила ChatGPT в свою поисковую систему Bing и сделала его доступен каждому 4 мая 2023 г.Если чат-боты станут такими же популярными, как поисковые системы, затраты энергии на внедрение ИИ могут значительно возрасти.Но у ИИ-помощников есть гораздо больше применений, чем просто поиск: например, написание документов, решение математических задач и создание маркетинговых кампаний.

Другая проблема заключается в том, что модели ИИ необходимо постоянно обновлять.Например, ChatGPT обучался только на данных до 2021 года, поэтому ему ничего не известно о том, что произошло с тех пор.Углеродный след создания ChatGPT не является общедоступной информацией, но, вероятно, он намного выше, чем у GPT-3.Если бы его приходилось регулярно воссоздавать для обновления своих знаний, затраты на электроэнергию выросли бы еще больше.

Одним из преимуществ является то, что обращение к чат-боту может быть более прямым способом получения информации, чем использование поисковой системы.Вместо того, чтобы получать страницу, полную ссылок, вы получаете прямой ответ, как если бы вы были от человека, при условии, что проблемы с точностью будут смягчены.Более быстрый доступ к информации потенциально может компенсировать повышенное энергопотребление по сравнению с поисковой системой.

Пути вперед

Будущее трудно предсказать, но большие генеративные модели искусственного интеллекта никуда не денутся, и люди, вероятно, будут все чаще обращаться к ним за информацией.Например, если ученику сейчас нужна помощь в решении математической задачи, он обращается к репетитору или другу или обращается к учебнику.В будущем, возможно, спросят у чат-бота.То же самое касается и других экспертных знаний, таких как юридические консультации или медицинская экспертиза.

Хотя одна крупная модель ИИ не разрушит окружающую среду, если тысяча компаний разработает несколько разных ботов ИИ для разных целей, каждый из которых будет использоваться миллионами клиентов, потребление энергии может стать проблемой.Необходимы дополнительные исследования, чтобы сделать генеративный ИИ более эффективным.Хорошей новостью является то, что ИИ может работать на возобновляемых источниках энергии.Перенеся вычисления туда, где зеленая энергия более распространена, или запланировав вычисления на то время суток, когда возобновляемая энергия более доступна, выбросы можно сократить. уменьшено в 30-40 раз, по сравнению с использованием энергосистемы, в которой преобладают ископаемое топливо.

Наконец, давление общества может быть полезным, чтобы побудить компании и исследовательские лаборатории публиковать углеродные следы своих моделей ИИ, как некоторые уже это делают.В будущем, возможно, потребители смогут даже использовать эту информацию, чтобы выбрать более «зеленого» чат-бота.