Указ Байдена об искусственном интеллекте «определенно сложен» для искусственного интеллекта с открытым исходным кодом

В указе администрации Байдена о безопасности ИИ изложены стандарты для отрасли, хотя его расплывчатость вызвала обеспокоенность среди сообщества ИИ по поводу удушения инноваций.

На прошлой неделе администрация президента США Джо Байдена издала обширный указ, призванный защитить граждан, правительственные учреждения и компании посредством обеспечения стандартов безопасности ИИ.

Приказ установил шесть новых стандартов безопасности и защиты ИИ, а также намерения по этичному использованию ИИ в государственных учреждениях. Байден сказал, что приказ соответствует собственным принципам правительства «безопасности, защищенности, доверия и открытости».

Мой указ об искусственном интеллекте является свидетельством того, за что мы выступаем: безопасность, защищенность и доверие.
— Президент Байден (@POTUS), 31 октября 2023 г.

Он включает в себя широкие полномочия, такие как обмен результатами испытаний на безопасность с должностными лицами для компаний, разрабатывающих «любую фундаментальную модель, которая представляет серьезный риск для национальной безопасности, национальной экономической безопасности или национального общественного здравоохранения и безопасности», а также «ускорение разработки и использования конфиденциальности». техники консервации».

Однако отсутствие подробностей, сопровождающих такие заявления, заставило многих в отрасли задуматься о том, как это может потенциально помешать компаниям разрабатывать модели высшего уровня.

Адам Штрук, партнер-основатель Struck Capital и инвестор в области искусственного интеллекта, рассказал Cointelegraph, что приказ демонстрирует уровень «серьезности в отношении потенциала искусственного интеллекта, способного изменить каждую отрасль».

Он также отметил, что разработчикам сложно прогнозировать будущие риски в соответствии с законодательством, исходя из предположений о продуктах, которые еще не полностью разработаны.

«Это, безусловно, сложно для компаний и разработчиков, особенно в сообществе открытого исходного кода, где указ был менее директивным».

Тем не менее, он сказал, что намерения администрации управлять руководящими принципами через руководителей ИИ и советов по управлению ИИ в конкретных регулирующих агентствах означают, что компании, создающие модели в этих агентствах, должны иметь «четкое понимание нормативной базы» этого агентства.

«Компании, которые продолжают ценить соответствие данных, конфиденциальность и беспристрастные алгоритмические основы, должны работать в рамках парадигмы, которая устраивает правительство».

Правительство уже опубликовало более 700 вариантов использования ИИ внутри страны через свой веб-сайт ai.gov.

Мартин Касадо, генеральный партнер венчурной компании Andreessen Horowitz, опубликовал в X (ранее Twitter), что он вместе с несколькими исследователями, учеными и основателями в области искусственного интеллекта направил письмо администрации Байдена по поводу возможности ограничения открытого исходного кода. ИИ.

«Мы твердо верим, что открытый исходный код — единственный способ сохранить программное обеспечение безопасным и свободным от монополии. Пожалуйста, помогите усилить», — написал он.

1/ Мы направили письмо президенту Байдену относительно указа об искусственном интеллекте и его потенциала для ограничения искусственного интеллекта с открытым исходным кодом. Мы твердо убеждены, что открытый исходный код — единственный способ сохранить программное обеспечение безопасным и свободным от монополии. Пожалуйста, помогите усилить.
— martin_casado (@martin_casado) 3 ноября 2023 г.

В письме указ был назван «слишком широким» в определении определенных типов моделей ИИ и выразил опасения, что более мелкие компании запутаются в требованиях, необходимых для других, более крупных компаний.

Джефф Амико, руководитель отдела операций Gensyn AI, также высказал аналогичное мнение, назвав это «ужасным» для инноваций в США.

Указ Байдена об искусственном интеллекте вышел из печати, и это ужасно для инноваций в США. Вот некоторые из новых обязательств, которые смогут соблюдать только крупные должностные лица
— Джефф Амико (@_jamico) 31 октября 2023 г.

Страк также подчеркнул этот момент, заявив, что, хотя ясность регулирования может быть «полезной для компаний, которые создают продукты, ориентированные на ИИ», также важно отметить, что цели «больших технологий», таких как OpenAI или Anthropic, сильно отличаются от целей ИИ на начальной стадии. стартапы.

«Мне бы хотелось, чтобы интересы этих компаний на ранних стадиях были представлены в разговорах между правительством и частным сектором, поскольку это может гарантировать, что нормативные руководящие принципы не будут слишком благоприятны только для крупнейших компаний в мире».

Мэтью Путман, генеральный директор и соучредитель Nanotronics — мирового лидера в производстве с использованием искусственного интеллекта, также прокомментировал Cointelegraph, что приказ сигнализирует о необходимости нормативной базы, которая обеспечит безопасность потребителей и этическое развитие искусственного интеллекта в более широком масштабе.

«То, как будут реализованы эти нормативные рамки, теперь зависит от интерпретаций и действий регулирующих органов», — сказал он.

«Как мы видели на примере криптовалюты, жесткие ограничения препятствовали исследованию потенциально революционных приложений».

Путман сказал, что опасения по поводу «апокалиптического» потенциала ИИ «преувеличены по сравнению с его перспективами положительного воздействия в краткосрочной перспективе».

Он сказал, что тем, кто не участвует непосредственно в создании технологии, легче строить повествования о гипотетических опасностях, не наблюдая за «поистине инновационными» приложениями, которые, по его словам, происходят вне поля зрения общественности.

Отрасли, в том числе передовое производство, биотехнологии и энергетика, по словам Путмана, «движут революцию в области устойчивого развития» благодаря новым автономным средствам управления процессами, которые значительно повышают производительность и сокращают отходы и выбросы.

«Эти инновации не были бы открыты без целенаправленного изучения новых методов. Проще говоря, ИИ с гораздо большей вероятностью принесет нам пользу, чем уничтожит нас».

Хотя указ еще свеж и инсайдеры отрасли спешат проанализировать его намерения, Национальный институт стандартов и технологий США (NIST) и Министерство торговли уже начали набор членов в недавно созданную организацию по безопасности искусственного интеллекта (ИИ). Консорциум института.