SK AI 서밋 2024

“엔비디아·TSMC와 AI칩 협력

MS와 ‘에너지 확보’ SMR 투자

젠슨 황, HBM4 조기 공급 요청

하이닉스가 한번 해보겠다 했다”

2025년 초 HBM3E 16단 양산 계획

“학습 성능 18% 추론 32% 향상”

SKT “한국, AI 3强 도약에 앞장”

GW급 데이터센터·GPU 확대 등

‘인프라 슈퍼 하이웨이’ 구상 발표

“인공지능(AI)은 혼자 할 수 없습니다. AI 미래를 위해서는 많은 사람의 협력이 필요합니다.”

최태원 SK그룹 회장은 4일 서울 강남구 코엑스에서 열린 ‘SK AI 서밋 2024’에서 “AI는 아직 초기 단계로 아직 모르는 게 많다. 많은 사람이 고민해 난제를 풀어가야 한다”며 이같이 말했다. 최 회장은 “AI는 모두의 삶과 사회에 광범위한 변화를 가져올 것”이라며 “변화를 긍정적으로 만들려면 참여와 협력이 필요하다”고 강조했다.

기조연설하는 최 회장 최태원 SK그룹 회장이 4일 서울 강남구 코엑스에서 열린 ‘SK AI(인공지능) 서밋 2024’에서 ‘협력으로 만들어가는 AI 생태계’를 주제로 기조연설을 하고 있다. 최 회장 뒤로 SK하이닉스와 고대역폭메모리(HBM) 등 AI 반도체 제조 분야에서 협력 관계를 돈독히 하고 있는 젠슨 황 미국 엔비디아 최고경영자의 소개 사진이 떠 있다. 이재문 기자SK AI 서밋은 5일까지 ‘함께하는 AI, 내일의 AI(AI Together, AI Tomorrow)’를 주제로 전 세계 AI 대표 기업인과 학자, 전문가 등을 현장 또는 화상으로 참여하는 대규모 심포지엄이다.

최 회장은 AI 성장과 이 과정에 있는 보틀넥(병목현상)을 극복하기 위한 SK의 협력과 노력을 소개했다. 그는 주요 병목현상으로 △비즈니스 모델 △AI 가속기 △AI 데이터센터로의 에너지 공급 등을 꼽았다. 최 회장은 “마이크로소프트(MS)는 SK하이닉스 고대역폭메모리(HBM)의 중요한 고객이며, 에너지 확보와 탄소 중립 달성을 위해 소형모듈원전(SMR)에 함께 투자하고 있다”며 “엔비디아, TSMC와는 AI 칩 제조에 협력하고 있다”고 말했다.

최 회장은 젠슨 황 엔비디아 최고경영자(CEO)와의 일화도 전했다. 그는 “황 CEO는 ‘빨리빨리’를 강조하는 한국인 같다. 지난번 만났을 때 HBM4 공급을 6개월 당겨 달라고 했다”며 “SK하이닉스가 최대한 해보겠다고 했다. (황 CEO와) 미팅을 더 하기 무서울 정도”라고 웃으며 말했다. 2026년 출시 예정이던 HBM4 12단은 내년 하반기 출하할 계획이다.

이날 행사장에서 상영된 데이비드 패터슨 미국 캘리포니아대 버클리캠퍼스 교수와의 영상 대담에서 황 CEO는 “연산 양이 많은 머신러닝 알고리즘은 더욱 강화된 컴퓨터 아키텍처가 필요하다”며 “현재 HBM 메모리 기술 개발과 제품 출시 속도는 매우 훌륭하지만, 여전히 AI는 더 높은 성능의 메모리가 필요하다”고 밝혔다.

SK그룹의 AI 사업 전초기지 역할을 하는 SK텔레콤은 세계 최고 수준의 ‘AI인프라’ 조성을 위해 ‘AI 인프라 슈퍼 하이웨이’ 구축 계획을 전격 공개했다. AI데이터센터와 그래픽처리장치(GPU) 공급을 확대하는 한편 ‘에지 AI’를 통해 촘촘한 AI 네트워크를 구축하겠다는 복안이다.

AI데이터센터는 국내 지역 거점에 100㎽ 이상의 하이퍼 스케일을 시작으로 향후 규모를 GW급 이상으로 확장할 계획이다. AI데이터센터를 지역 거점에 구축하면 수소, 태양광, 풍력 등 지역의 신재생에너지를 활용할 수 있다.

SK그룹의 역량과 파트너사가 보유한 다양한 솔루션을 결집한 AI 데이터센터 테스트베드는 다음달 판교에 문을 연다. GW급 AI데이터센터는 향후 50조원 이상의 신규 투자 유치와 55만명 이상의 고용 창출, 175조원 이상의 경제 효과가 있을 것으로 SK텔레콤은 기대했다.

국내 GPU 공급 부족 해소를 위해 가산 데이터센터를 AI 데이터센터로 전환해 클라우드 형태로 GPU를 제공하는 GPUaaS(GPU as a Service)를 출시할 계획이다. 기업 간 거래(B2B) 사업자는 하드웨어 구축 없이 AI 사업에 필요한 GPU 기능을 공급받을 수 있다. SK텔레콤은 미국 AI 컴퓨팅 회사인 람다와 협력해 12월 엔비디아 차세대 GPU인 H100 기반의 GPUaaS를 선보이고, 내년 3월에는 국내 최초로 GPU H200을 도입한다.

SK텔레콤의 AI 인프라 구축 마지막 수는 ‘에지 AI’다. 에지 AI는 AI 데이터센터와 온디바이스AI 사이에 있는 것으로, 텔코 대규모언어모델(LLM)의 보안 및 개인정보 보호 취약점과 온디바이스AI 성능 한계를 보완할 수 있다. SK텔레콤은 에지AI 특화 서비스 발굴에 나선 상황이다.

유영상 SK텔레콤 대표는 “‘AI 인프라 슈퍼 하이웨이’를 구축해 대한민국이 AI 글로벌 3강(G3)으로 도약할 수 있도록 앞장설 계획”이라고 밝혔다.

곽노정 SK하이닉스 대표이사 사장은 이날 내년 초 HBM3E 16단 48GB 제품을 양산할 계획이라고 공개했다. SK하이닉스가 HBM3E 16단 제품의 출시를 공식화한 것은 이번이 처음이다. 현재 SK하이닉스는 HBM3E 12단을 엔비디아에 납품하고 있다. 곽 사장은 “16단 제품을 시뮬레이션 결과 12단보다 학습 성능은 18%, 추론 성능은 32% 향상됐다”고 설명했다.

한편 이날 챗GPT 개발사 ‘오픈AI’의 창립자 중 한 명인 그레그 브로크만 오픈AI 회장 겸 사장은 ‘AI의 미래’를 주제로 한 대담에서 “AI가 인간의 지능을 뛰어넘는 순간은 올 것”이라며 “그 순간은 갑자기 발생하는 것이 아니라 점차 이뤄질 것”이라고 전망했다. 그는 AI의 궁극적 목표에 대해 “AI가 사람처럼 퓰리처상을 타거나 질병을 치료하거나 기후변화 극복과 같이 세상을 바꿀 수 있는 문제를 해결하는 데 기여하도록 하는 것”이라고 말했다. 이어 “AI의 영향은 우리가 생각하는 것보다 훨씬 클 수 있다”며 “미리 정해진 미래가 아니라 우리가 만들고 싶은 미래를 위해 노력해야 한다”고 덧붙였다.

이진경·김건호 기자