Безопасность ИИ-систем следует рассматривать как инженерную задачу, а решение о темпах разработки и возможных паузах оставлять самим компаниям. Такое заявление сделал глава Nvidia Дженсен Хуанг в разговоре с CEO Salesforce Марком Бениоффом на конференции Dreamforce.
https://youtu.be/2daJ7ufU_Ko?si=0-9hy0l1fhLBYfGD
Бениофф спросил главу Nvidia о развернувшейся в индустрии дискуссии вокруг замедления разработки ИИ.
«Безопасность имеет первостепенное значение. Но безопасность — инженерная проблема», — ответил Хуанг.
По его словам, разработчики создают программное обеспечение и вычислительные системы, поэтому должны сначала сформировать надежные среды для их тестирования. Если компания не уверена в функциональности или безвредности продукта, его не следует выпускать.
«Рыночные силы уже существуют. Нам не нужны новые законы. Нам не нужно новое регулирование», — заявил он.
CEO Nvidia также назвал ложным выбор между скоростью инноваций и безопасностью. По его мнению, компании могут развивать технологии максимально быстро, но должны сделать паузу, если теряют контроль над процессом или сомневаются в безопасности продукта.
Высказывание Хуанга прозвучало через несколько дней после призыва главы Anthropic Дарио Амодеи снизить темпы развития наиболее мощных ИИ-моделей. Его позицию поддержали CEO OpenAI Сэм Альтман и Илон Маск.
14 сентября на фоне дискуссии акции ряда связанных с искусственным интеллектом компаний и производителей полупроводников снизились. Участники рынка оценивали возможные последствия замедления для спроса на вычислительную инфраструктуру.
Вопрос о координации между разработчиками осложняет антимонопольное законодательство. 11 сентября OpenAI обратилась к членам Конгресса США с просьбой разъяснить, не будет ли совместное снижение темпов разработки передовых моделей считаться ограничением конкуренции.
Сам Амодеи назвал регулирование всех американских разработчиков передовых моделей наиболее эффективным вариантом. Для добровольной координации между конкурентами он предложил участие властей и узкое исключение из антимонопольных ограничений.
Напомним, в июле Nvidia, Meta, Microsoft и еще 22 компании призвали власти США не вводить общие ограничения для ИИ-моделей с открытыми весами. Хуанг тогда заявил, что подобные системы способствуют инновациям, кибербезопасности и распространению технологий.
