🧠 SNUG2025 Day 2 Keynote 요약 – Richard Ho (OpenAI), “Scaling Compute for the Age of Intelligence”
SNUG 2025 | March 20, 2025 | 9:30 – 10:30 AM PST
지난 3월 20일, Santa Clara Convention Center에서 열린 SNUG 2025 (Synopsys Users Group)의 둘째 날.
OpenAI의 Head of Hardware, Richard Ho가 키노트 연설자로 나서
“Scaling Compute for the Age of Intelligence“라는 주제로 강연을 진행했습니다.
그는 ChatGPT를 만든 OpenAI의 하드웨어 총책임자로서,
AI 시대의 컴퓨팅 인프라와 하드웨어 아키텍처가 어떻게 진화해야 하는지를
기술적 통찰과 실제 사례를 바탕으로 설명했습니다.

🌐 “AI is here to stay. AI will be pervasive.”
강연의 시작은 간결하지만 강력한 메시지로 열렸습니다.
AI는 사라지지 않는다. 그리고 모든 산업에 스며들 것이다.
이제 AI는 단순한 기술이 아니라,
산업 전반을 재편하는 핵심 인프라가 되고 있습니다.
이를 뒷받침하려면 컴퓨팅 인프라 역시 변화해야 합니다:
- 확장 가능한 인프라(Scalability)
- 신뢰할 수 있는 안정성(Reliability)
- 빠른 적응력(Flexibility & Agility)

🧠 ML for ML Hardware – AI가 AI 하드웨어를 설계한다
이번 키노트의 핵심 주제는 바로 “ML for ML Hardware”.
즉, 머신러닝이 머신러닝 하드웨어를 설계하는 시대에 대한 비전입니다.
Richard는 자신의 꿈을 이렇게 표현했습니다:
“My dream: ML for ML Hardware.”
실제로 그는 머신러닝 기술이
아키텍처 설계 → GDSII 생성 → 제조 → Bring-up → 프로덕션 적용
까지 이어지는 전체 하드웨어 생애주기를 자동화할 수 있다고 설명했습니다.

⚡ GPT는 실제 설계 환경에서 이미 활용되고 있다
이번 발표에서 현장의 이목을 집중시킨 부분은,
ChatGPT 4.5가 실제 하드웨어 설계에 어떤 방식으로 활용될 수 있는지 보여준 실사례였습니다.
Richard는 다음과 같은 요청을 GPT에 입력합니다:
“Design a parameterized async FIFO for CDC crossings and the verification testbench for it in UVM, also provide the documentation.”
그리고 몇 초 후, GPT는 다음을 생성합니다:
- ✅ 파라미터화된 비동기 FIFO 모듈 (SystemVerilog)
- ✅ UVM 기반 테스트벤치
- ✅ 사용 매뉴얼 수준의 문서화
단순한 코드 생성이 아니라,
EDA 실무에 투입 가능한 IP 생성 + 검증 환경 구축 + 문서화까지 포함한 결과물이었습니다.

이 사례는 AI가 설계 자동화의 주체가 될 수 있다는 점을 강력히 입증했습니다.
🧊 AI 시대의 하드웨어, 어떻게 달라져야 하는가?
Richard Ho는 Hennessy와 Patterson의 컴퓨터 아키텍처 이론을 기반으로,
현대 AI에 맞는 새로운 하드웨어 스택이 필요하다고 말했습니다:
- HBM DRAM과 GPU의 효율적 통합
- Monolithic 3D Die 구조
- 효율적인 냉각과 고속 인터커넥트
- 최적화된 시스템 패키징
이 모든 요소들은 GPT와 같은 대규모 AI 모델의 성능을 실현하는 기반이 되며,
AI를 위한 하드웨어 설계는 전통적인 CPU 중심 사고를 완전히 뛰어넘고 있음을 보여줍니다.

🧩 요약: 칩 설계자와 AI 엔지니어 모두에게 던지는 메시지
Richard Ho의 SNUG 2025 키노트는 단순한 기술 강연을 넘어,
칩 설계자, 시스템 아키텍트, AI 연구자 모두에게 인사이트를 제공한 시간이었습니다.
그가 전한 핵심 Takeaway는 아래와 같습니다:
- AI는 지속적이고 보편화된다
- 컴퓨팅 인프라는 유연하고 안정적으로 확장돼야 한다
- AI가 하드웨어를 설계하는 시대가 현실화되고 있다
하드웨어가 AI를 키우고, AI가 하드웨어를 설계하는 ‘순환적 진화’의 시대.
그 중심에 있는 OpenAI와 Richard Ho의 다음 행보가 더욱 기대되는 이유입니다.
