ИИ приходит в процесс принятия решений в сетях. Вот почему управление не может быть второстепенным.

Последние два десятилетия я провел, анализируя энергетические системы — по коридорам, рынкам и диспетчерским пунктам. Если есть одна повторяющаяся закономерность, то это: технологии развиваются быстрее, чем управление. Сегодня искусственный интеллект находится на пороге изменения того, как мы прогнозируем спрос, распределяем энергию, управляем отключениями и распределяем инвестиции по всей сети. Но пока технологии мчатся вперед, структуры, которые ими управляют, едва начали формироваться.

То, что мы наблюдаем, — это не просто цифровая трансформация. Это когнитивная инфраструктура — система, которая предвидит, учится и оптимизируется. В некоторых центрах управления ИИ уже используется для балансировки распределенной энергии, выявления неисправностей и прогнозирования системного стресса. В других он руководит принятием крупных капитальных решений на основе вероятностного моделирования сценариев. И вскоре эти системы, возможно, будут принимать этические решения — даже не будучи обученными этике.

Риск — это не какая-то научно-фантастическая сингулярность. Это нечто гораздо более практичное: оптимизация без раздумий.

Представьте себе модель ИИ, разработанную для восстановления питания после отключения. Если ее обучить исключительно максимизации экономической производительности, она может отдать приоритет большим складам, а не домам престарелых — не из злого умысла, а потому, что именно это вознаграждает целевая функция. Или рассмотрите алгоритмы прогнозирования, которые увековечивают недоинвестирование в малообеспеченные районы, поскольку историческое использование было низким — не потому, что спрос низок, а потому, что доступ был ограничен.

Это не гипотетические пограничные случаи. Они тихо становятся частью реальных сетевых операций — часто глубоко зарытых в оптимизационных движках, моделях закупок и платформах оркестровки DER.

Проблема не в том, что ИИ неисправен. Проблема в том, что он работает именно так, как задумано — и мы не проектировали его так, чтобы он соответствовал общественным ценностям.

Эта отрасль уже была здесь раньше. На протяжении большей части 20-го века решения об инфраструктуре — где прокладывать автомагистрали, размещать электростанции или внедрять обновления — часто усиливали системное неравенство. Ущерб не был абстрактным: он ощущался в показателях заболеваемости астмой, уведомлениях об отключении и сокращении инвестиций в соседние районы. То, что мы теперь называем «энергетической справедливостью», начиналось как ответ на системы, которые работали с шорами на глазах.

ИИ грозит повторить эту модель — в больших масштабах и с большей скоростью, — если мы не начнем действовать сейчас, чтобы обеспечить управление, объяснимость и подотчетность.

Как это выглядит?

• Сертифицируемый ИИ: так же, как аппаратные компоненты требуют тестирования и одобрения, системы ИИ, работающие в критически важной инфраструктуре, должны проходить проверку модели, аудит поведения и обнаружение отклонений.
• Протоколы объяснимости: ИИ, работающий в сетях, не должен быть черным ящиком. Операторы, регуляторы и общественность должны знать, как принимаются решения, — и иметь механизмы для оспаривания или отмены.
• Trust Frameworks: Нам нужно определить правила дорожного движения: кто несет ответственность, когда решения ИИ идут не так? Какие ценности заложены в системных целях? И кто может их обновлять?

Эти ограждения не являются барьерами для инноваций — они являются посредниками. Они гарантируют, что по мере того, как ИИ становится неотъемлемой частью работы сети, он будет работать с гражданскими намерениями, а не только с технической эффективностью.

С учетом неустойчивости климата, роста нагрузки, обусловленного центрами обработки данных, и стремительного ускорения электрификации операторы сетей и коммунальные службы испытывают огромное давление в плане модернизации. ИИ, безусловно, станет частью решения. Но без управления он также может усилить то самое неравенство, которое стремится исправить переход к чистой энергии.

Пришло время перестать относиться к ИИ просто как к инструменту и начать относиться к нему как к субъекту, принимающему решения и нуждающемуся в руководстве.