Дженсен Хуанг допустил прекращение поставок NVIDIA компаниям, создающим опасный ИИ

Генеральный директор NVIDIA Дженсен Хуанг заявил, что компания готова прекратить поставки своих чипов клиентам, которые разрабатывают опасное программное обеспечение на основе искусственного интеллекта. Об этом он рассказал в интервью Bloomberg, подчеркнув при этом, что прежде чем принимать подобные меры, необходимо попытаться решить проблему путем диалога.

Одновременно руководитель NVIDIA назвал некоторые опасения по поводу развития ИИ преувеличенными и призвал активнее внедрять технологии, которые позволят контролировать работу искусственного интеллекта.

NVIDIA может ограничить поставки опасным ИИ-проектам

Во время интервью журналистка Bloomberg Эмили Чанг напрямую спросила Хуанга, готова ли NVIDIA прекратить поставки вычислительных ускорителей компаниям, создающим потенциально опасные ИИ-системы.

«Ситуация гипотетическая, но ответ — да», — заявил глава NVIDIA.

При этом он уточнил, что прежде чем прибегать к таким мерам, следует провести переговоры с соответствующей компанией. По словам Хуанга, NVIDIA не управляет бизнесом своих клиентов, поэтому возможности производителя самостоятельно оценивать способы использования поставляемых технологий ограничены.

Заявление прозвучало на фоне продолжающихся дискуссий о безопасности искусственного интеллекта. NVIDIA занимает ключевое положение на рынке ускорителей, используемых для обучения и запуска ИИ-моделей, поэтому ее решения могут влиять на доступность вычислительных ресурсов для разработчиков.

Некоторые руководители ИИ-компаний, включая главу Anthropic Дарио Амодеи, ранее выступали за более осторожный подход к развитию технологии, указывая на необходимость лучше изучить потенциальные угрозы и разработать эффективные механизмы защиты.

Хуанг призывает ускорить развитие средств контроля ИИ

Несмотря на признание потенциальных рисков, глава NVIDIA считает, что общественная дискуссия об опасностях искусственного интеллекта порой строится на чрезмерно негативных предположениях. По его мнению, технологическая отрасль также недостаточно хорошо объясняет обществу практические преимущества ИИ.

В качестве одного из способов повышения безопасности Хуанг предлагает использовать искусственный интеллект для мониторинга других ИИ-систем. Такие инструменты могут помогать обнаруживать нежелательное поведение моделей, отслеживать действия автономных агентов и своевременно выявлять потенциально опасные сценарии.

По мнению руководителя NVIDIA, разработку подобных механизмов необходимо ускорять параллельно с совершенствованием самих моделей. В таком подходе ИИ рассматривается не только как источник новых рисков, но и как инструмент для их обнаружения и предотвращения.

В конце сентября NVIDIA представила собственное программное обеспечение для повышения безопасности ИИ-агентов. По сообщениям о разработке, инструмент призван ограничивать потенциально опасные действия автономных систем. Компания также намерена поддерживать исследования в области безопасности искусственного интеллекта: в течение следующих пяти лет NVIDIA планирует предоставить вычислительные ресурсы стоимостью 250 млн долларов для соответствующих проектов.

NVIDIA не согласна с прогнозами о скором схлопывании ИИ-рынка

В интервью Хуанг также затронул тему возможного «пузыря искусственного интеллекта». Его заявления прозвучали в период снижения котировок NVIDIA и других производителей полупроводников на американском фондовом рынке.

Глава компании считает, что спрос на инфраструктуру для ИИ в ближайшие годы останется высоким и будет превышать предложение соответствующих компонентов. По его словам, со временем рынок придет к равновесию, однако сейчас до этого еще далеко.

«В конце концов спрос и предложение сбалансируются, но не сегодня», — отметил Хуанг.

Высокий спрос на ускорители, серверы и другие компоненты для ИИ остается одним из основных факторов развития бизнеса NVIDIA. Компании и облачные провайдеры продолжают инвестировать в вычислительные мощности, необходимые для обучения больших моделей и предоставления ИИ-сервисов.

Вместе с тем ожидания относительно дальнейшего роста рынка остаются предметом споров среди инвесторов. Снижение котировок может отражать не только сомнения в перспективах ИИ, но и переоценку стоимости технологических компаний, ожиданий по доходам и масштабов будущих капитальных затрат.

Позиция NVIDIA по рискам искусственного интеллекта

Ранее Хуанг также заявлял, что компании, не способные обеспечить безопасность своих ИИ-моделей, должны приостановить работу над ними или отказаться от выпуска таких продуктов. При этом он оценивал вероятность гибели человечества из-за искусственного интеллекта к 2030 году в 0%.

Эти высказывания отражают позицию руководителя NVIDIA: потенциальные угрозы необходимо воспринимать серьезно, но отвечать на них следует прежде всего развитием средств контроля и защиты, а не общим замедлением технологического прогресса.

Пока заявления Хуанга не означают введения новых ограничений на поставки ускорителей NVIDIA. Компания допускает возможность отказа от сотрудничества с разработчиками опасных систем, однако конкретные критерии такой оценки и механизм принятия решений публично не раскрыты.