 |
하지만 최근 AI 인프라 현장에서 드러나는 현실은 조금 다르다. 연산 능력은 폭발적으로 증가했지만, 실제 AI 서비스의 처리 속도와 효율은 그만큼 따라오지 못하고 있다. 이유는 단순하다. 계산은 빨라졌지만 데이터의 이동이 그 속도를 따라가지 못하고 있기 때문이다. AI 시대의 병목은 더 이상 연산 장치 내부에 있지 않다. 칩과 칩, 서버와 서버 사이를 흐르는 데이터의 길목에서 발생하고 있다.
반도체 공정이 3나노미터(nm) 이하로 내려가면서 단일 칩의 연산 밀도는 이미 물리적 한계에 가까워졌다. 그러나 대규모 언어모델(LLM)과 같은 초거대 AI를 구동하기 위해서는 수천, 수만 개의 가속기가
하나의 거대한 시스템처럼 연결되어 작동해야 한다. 이때 연산 장치인 GPU는 나노초(ns) 단위로 계산을 끝내지만, 그 결과를 전달하는 인터페이스와 케이블의 대역폭은 이를 따라가지 못한다. 이른바 '데이터 병목 현상(Bottleneck)'이다.
이를 쉽게 비유하면 이렇다. 아무리 빠른 스포츠카를 수천 대 보유하고 있어도, 이들이 달리는 도로가 좁고 막혀 있다면 전체 물류 속도는 결코 빨라질 수 없다. 실제로 AI 데이터센터에서 소비되는 전력의 상당 부분과 시스템 지연 시간(Latency)의 상당수는 연산 과정이 아니라 데이터를 이동시키는 과정에서 발생한다. 이제 AI 반도체의 성능을 좌우하는 기준은 '얼마나 빠르게 계산하느냐'에서 '얼마나 효율적으로 데이터를 이동시키느냐'로 옮겨가고 있다.
이 문제를 해결하기 위해 반도체 업계는 오랫동안 두 가지 선택지를 고민해 왔다. 구리선(Copper)과 광섬유(Optical)다. 구리선은 비용이 저렴하고 범용성이 높지만, 데이터 전송량이 증가할수록 신호 감쇄가 커지고 전송 거리가 짧아진다. 반대로 광섬유는 속도가 빠르지만 전력 소모와 구축 비용이 높다. 결국 성능과 비용 사이에서 타협할 수밖에 없는 구조였다.
이 지점에서 한국의 팹리스 스타트업 포인투테크놀로지(Poin2 Technology)의 접근법이 주목받고 있다. 이 회사는 구리선의 경제성과 광섬유의 고속성을 동시에 확보하려는 새로운 연결 구조를 제시하고 있다. 이들이 개발한 'e-Tube' 기술과 초고속 저전력 인터커넥트(Interconnect) 솔루션은 칩과 칩, 서버 랙 사이의 데이터를 기존 방식보다 훨씬 적은 전력으로도 테라비트(Terabit)급 속도로 전송할 수 있도록 설계됐다.
기술의 본질은 단순히 전송 속도를 높이는 데 있지 않다. 더 중요한 목표는 시스템 구조 자체를 바꾸는 데 있다. 포인투테크놀로지가 지향하는 개념은 물리적으로 떨어져 있는 여러 개의 반도체 자원을 마치 하나의 거대한 칩처럼 동작하게 만드는 것이다. 다시 말해, 데이터 이동의 지연을 최소화해 분산된 자원을 하나의 '가상 단일 칩'처럼 활용하는 구조다.
과거에는 가속기와 메모리 사이의 거리가 멀어질수록 신호 손실을 막기 위해 복잡한 오류 정정과 증폭 과정이 필요했다. 이 과정은 전력 낭비와 지연을 동시에 초래했다. 그러나 데이터 이동 경로 자체를 효율적으로 설계하면 연산 유닛이 데이터를 기다리며 공회전하는 시간을 크게 줄일 수 있다.
단순한 부품 개선이 아니라 시스템 아키텍처의 혁신인 셈이다. 동일한 수의 GPU를 사용하더라도 연결 구조만 효율화해도 전체 시스템 성능이 20~30% 이상 향상될 수 있다는 분석이 나오는 이유다. 데이터센터 구축 비용이 수조 원 단위로 들어가는 현실을 고려하면, 이는 단순한 기술 개선이 아니라 경제적 구조를 바꾸는 변화다.
이 기술이 더욱 주목받는 이유는 개방성과 확장성 때문이다. 현재 AI 반도체 시장은 특정 기업의 독점적 생태계에 의존하는 경향이 강하다. 그러나 포인투의 연결 기술은 다양한 제조사의 가속기, HBM(고대역폭 메모리), 네트워크 스위치와 호환되는 범용 인터페이스 구조를 지향한다. 초거대 AI 모델이 발전할수록 시스템 규모는 커지고 연결 구조는 더욱 복잡해진다. 이런 상황에서 특정 생태계에 종속되지 않는 연결 기술은 빅테크 기업들에게 매력적인 대안이 될 수밖에 없다.
한국 반도체 산업의 관점에서 보면 이 변화는 더욱 의미심장하다. 한국은 오랫동안 메모리 반도체 분야에서 세계 최강의 경쟁력을 유지해왔다. 그러나 시스템 반도체와 팹리스 영역에서는 상대적으로 뒤처졌다는 평가를 받아왔다. AI 시대의 반도체 경쟁은 이제 칩 하나의 성능 경쟁이 아니다. 시스템 전체를 어떻게 설계하고, 얼마나 효율적으로 연결하느냐의 싸움이다.
바꿔 말하면 미래 반도체 산업의 주도권은 '연산 장치의 제작자'가 아니라 '아키텍처 설계자'에게 넘어가고 있다. 반도체 칩이 근육이라면 연결 기술은 혈관이다. 아무리 강력한 근육이 있어도 혈관이 막혀 있다면 몸 전체는 제대로 움직일 수 없다.
AI 시대의 경쟁은 이제 계산 속도만의 문제가 아니다. 데이터가 얼마나 빠르고, 얼마나 효율적으로 흐를 수 있느냐가 AI의 지능과 경제성을 동시에 결정한다. 그런 점에서 독창적인 연결 기술로 글로벌 시장에 도전하는 한국 기업들의 움직임은 단순한 스타트업의 기술 개발을 넘어선다. 이는 한국이 메모리 강국을 넘어 AI 인프라 설계 강국으로 도약할 수 있는 새로운 가능성의 신호일지도 모른다.
박용후 | 관점디자이너(Perspective Designer)
대한민국 1호 관점디자이너이자 피와이에이치 대표. 카카오, 우아한형제들 등 국내 유수의 혁신 기업들의 전략 고문으로 활동하며 '관점의 전환'이 기업의 운명을 어떻게 바꾸는지 증명해왔다. 모두가 '보는 것'에 집중할 때, 그 이면의 '가치'를 설계하며 세상의 고정관념을 깨는 날카로운 통찰을 공유한다. 고정관념을 파괴하는 시각으로 현재와 미래를 연결하고 있다.
[Copyright © 전자신문. 무단전재-재배포금지]
