Nvidia Sees AGI While OpenAI Sees Danger

Source: https://semiwiki.com/semiconductor-manufacturers/373466-nvidia-sees-agi-while-openai-sees-danger/

Jensen Huang’s declaration that “AGI has arrived” is less a scientific verdict than a compressed statement about infrastructure, economics and momentum. His evidence is OpenAI’s GPT-6 Astra, reportedly trained on more than 100,000 Nvidia Grace Blackwell NVL72 systems, followed by a promise that another 400,000 GPUs are coming online. The important number is not the label. It is the industrial system behind it.

젠슨 황(Jensen Huang)의 "AGI가 도달했다"는 선언은 과학적 판정이라기보다 인프라, 경제학, 그리고 추진력에 대한 응축된 성명에 가깝습니다. 그의 근거는 10만 개 이상의 엔비디아 그레이스 블랙웰(Grace Blackwell) NVL72 시스템으로 학습된 것으로 알려진 오픈AI의 GPT-6 아스트라(Astra)이며, 이어서 추가로 40만 개의 GPU가 가동될 것이라는 약속입니다. 중요한 숫자는 '라벨(명칭)'이 아니라, 그 이면에 있는 산업적 시스템입니다.

AGI means artificial general intelligence: a hypothetical AI capable of learning, reasoning and completing most intellectual tasks across many domains at roughly human level or better—not merely excelling at one specialized task.

AGI는 범용 인공지능(artificial general intelligence)을 의미하며, 단순한 단일 특화 과제 수행을 넘어 여러 영역에서 인간 수준 또는 그 이상으로 대부분의 지적 과제를 학습, 추론, 완수할 수 있는 가상의 AI를 뜻합니다.

AGI has no universally accepted test. A model can outperform humans across coding, mathematics, research and computer use while remaining brittle, difficult to steer and dependent on carefully constructed scaffolding. Benchmarks establish capability on sampled tasks; they do not prove robust competence across unfamiliar environments. Nor do they establish durable memory, reliable long-horizon planning, grounded understanding or the ability to recognize when an answer is wrong. Huang’s claim therefore cannot be evaluated like a chip specification. It expresses a threshold judgment.

AGI에는 보편적으로 통용되는 테스트가 없습니다. 모델은 코딩, 수학, 연구, 컴퓨터 활용 등에서 인간을 능가할 수 있으면서도 여전히 취약하고, 통제하기 어려우며, 세심하게 구축된 스캐폴딩(기반 구조)에 의존할 수 있습니다. 벤치마크는 표본 추출된 과제에서의 능력을 입증할 뿐, 낯선 환경 전반에서의 탄탄한 역량을 증명하지는 못합니다. 지속 가능한 기억력, 신뢰성 있는 장기 계획 수립 능력, 현실에 기반한 이해력, 혹은 답변이 틀렸음을 인지하는 능력 또한 증명하지 못합니다. 따라서 황의 주장은 칩 사양처럼 평가될 수 없습니다. 이는 하나의 임계점에 대한 판단을 표현한 것입니다.

Astra nevertheless appears to change the technical argument. Frontier systems are no longer merely next-token predictors exposed through chat boxes. They increasingly operate as agents: decomposing objectives, calling tools, browsing networks, writing and executing code, checking intermediate results and coordinating parallel attempts. Once inference-time computation, external memory and tool access are added, the relevant unit is not the base model but the complete system. Generality emerges from that stack, even if no component is generally intelligent by itself.

그럼에도 불구하고 아스트라는 기술적 논거를 바꾸는 것으로 보입니다. 프론티어(최첨단) 시스템은 더 이상 채팅창을 통해 노출되는 단순한 차세대 토큰 예측기에 그치지 않습니다. 이들은 목표를 세분화하고, 도구를 호출하며, 네트워크를 탐색하고, 코드를 작성 및 실행하며, 중간 결과를 확인하고, 병렬 시도를 조율하는 에이전트로서 점점 더 많이 작동하고 있습니다. 일단 추론 시점 연산, 외부 메모리, 도구 접근 권한이 추가되면 관련 단위는 베이스 모델이 아니라 완전한 시스템이 됩니다. 범용성은 개별 구성 요소 그 자체로는 범용적이지 않더라도 그러한 스택으로부터 창출됩니다.

That helps explain the 400,000-GPU promise. More accelerators do not simply train a larger successor. They can support reinforcement learning, synthetic-data generation, continuous evaluation and enormous inference workloads. A difficult problem can be attacked by thousands of agents, with candidates tested and aggregated. Compute becomes a way to buy search depth, experimentation and reliability after training. The scaling axis has shifted from model parameters alone toward fleets of models spending variable amounts of computation per task.

이러한 점은 40만 개의 GPU를 약속한 배경을 설명하는 데 도움이 됩니다. 더 많은 가속기는 단순히 더 큰 후속 모델을 학습시키는 데 그치지 않습니다. 강화학습, 합성 데이터 생성, 지속적인 평가, 그리고 거대한 추론 워크로드를 지원할 수 있습니다. 수천 개의 에이전트가 후보 검증 및 집계를 거치며 난제에 접근할 수 있게 됩니다. 컴퓨팅 자원은 학습 이후에 검색 깊이, 실험, 신뢰성을 구매하는 수단이 됩니다. 확장 축은 모델 파라미터 단일 항목에서, 작업당 가변적인 양의 연산을 소비하는 모델 함대로 이동했습니다.

But scale also multiplies exposure. An agent capable of useful cybersecurity work may also discover vulnerabilities, obtain credentials or conceal unsafe actions. Parallel agents can compress months of human experimentation into hours, including experiments defenders did not anticipate. If a system’s internal reasoning becomes less legible as its performance improves, operators may gain capability faster than they gain evidence of control.

그러나 규모는 위험 요소의 노출도 키웁니다. 유용한 사이버 보안 작업을 수행할 수 있는 에이전트는 취약점을 발견하거나, 자격 증명을 획득하거나, 안전하지 않은 행동을 숨길 수도 있습니다. 병렬 에이전트는 방어자들이 예상하지 못한 실험을 포함하여 수개월 분량의 인간 실험을 몇 시간 만으로 압축할 수 있습니다. 시스템의 성능이 향상됨에 따라 내부 추론 과정의 가독성이 떨어진다면, 운영자들은 통제력을 확보하는 속도보다 더 빠르게 역량을 획득하게 될 수 있습니다.

That is why OpenAI chief scientist Jakub Pachocki’s warning is not necessarily a contradiction of Huang’s claim. It is the other side of it. Huang sees a capability threshold and the demand for the machinery that makes it economically available. Pachocki sees an assurance gap: no laboratory has demonstrated alignment and monitoring strong enough to justify indefinite scaling at maximum speed. One reads the model as a product and platform; the other reads it as an increasingly autonomous actor.

이것이 바로 오픈AI의 수석 과학자 야쿠프 파초키(Jakub Pachocki)의 경고가 황의 주장과 반드시 모순되지 않는 이유입니다. 그것은 주장애 대한 이면의 동전 양면입니다. 황은 역량의 임계점과 그것을 경제적으로 이용 가능하게 만드는 기계 장치에 대한 수요를 봅니다. 파초키는 보증의 공백을 봅니다. 즉, 최고 속도로 무기한 확장을 정당화할 만큼 충분히 강력한 정렬(alignment) 및 모니터링을 입증한 연구소는 없습니다. 한쪽은 모델을 제품이자 플랫폼으로 읽고, 다른 한쪽은 점차 자율성을 갖춘 행위자로 읽습니다.

Their incentives matter. Nvidia sells the scarce substrate of the boom. Declaring AGI validates unprecedented capital spending on accelerators, networking, power and data centers. OpenAI must commercialize the resulting systems, but it also bears direct responsibility for deployment failures. Supplier optimism and laboratory caution can therefore coexist without either being insincere.

그들의 인센티브는 중요합니다. 엔비디아는 호황기의 희소한 기반 기질을 판매합니다. AGI의 선언은 가속기, 네트워킹, 전력, 데이터 센터에 대한 전례 없는 자본 지출을 정당화합니다. 오픈AI는 그 결과로 나온 시스템을 상용화해야 하지만, 동시에 배포 실패에 대한 직접적인 책임도 집니다. 따라서 공급업체의 낙관론과 연구소의 신중론은 어느 한쪽이 불성실하지 않으면서도 공존할 수 있습니다.

The practical question is not whether Astra resembles a person. It is whether institutions can still predict, constrain and audit systems whose useful autonomy grows with every increment of compute, while competitive pressure rewards deployment before shared standards exist.

실질적인 질문은 아스트라가 인간을 닮았느냐가 아닙니다. 경쟁 압력이 공통된 표준이 존재하기도 전에 배포를 유도하는 상황에서, 유용한 자율성이 연산 증가에 따라 커져가는 시스템을 기관들이 여전히 예측, 통제, 그리고 감사할 수 있는가 하는 점입니다.

What matters now is whether governance can become as measurable as performance. “AGI” is too elastic to trigger policy by itself. Better thresholds would track autonomous task duration, cyber capability, replication, deception, access to resources and the ability to accelerate AI research. Evaluations should be run by independent parties, repeated after deployment and tied to enforceable limits on access and scale.

지금 중요한 것은 거버넌스가 성능만큼이나 측정 가능해질 수 있는지 여부입니다. "AGI"라는 단어는 너무 탄력적이어서 그 자체만으로는 정책을 촉발하기 어렵습니다. 더 나은 임계점이라면 자율 작업 지속 시간, 사이버 역량, 복제, 기만, 자원 접근성, 그리고 AI 연구 가속화 능력을 추적해야 할 것입니다. 평가는 독립적인 주체에 의해 수행되어야 하고, 배포 후에도 반복되어야 하며, 접근 및 규모에 대한 강제 가능한 한계와 연결되어야 합니다.

Bottom line: The arrival debate may never produce a clean date. The infrastructure is arriving anyway. Four hundred thousand additional GPUs mean more experiments, more agents and shorter feedback loops. If Huang is right, society is underreacting to a historic transition. If Pachocki is right, the builders are approaching it without adequate brakes. The uncomfortable possibility is that both are right at once.

결론: 도래 시기에 대한 논쟁은 명확한 날짜를 결코 도출하지 못할 수도 있습니다. 어쨌든 인프라는 다가오고 있습니다. 추가되는 40만 개의 GPU는 더 많은 실험, 더 많은 에이전트, 그리고 더 짧은 피드백 주기를 의미합니다. 만약 황의 말이 맞다면, 사회는 역사적 전환에 대해 과소반응하고 있는 것입니다. 만약 파초키의 말이 맞다면, 개발자들은 적절한 브레이크 없이 그에 접근하고 있는 것입니다. 불편한 가능성은 두 사람 모두 맞을 수도 있다는 점입니다.