AI 반도체와 기존 반도체의 차이부터 현황까지 다뤘어요! 💬 Editor's Comment
안녕하세요, 구독자님!
오늘 가장 많이 들은 얘기는 '벌써, 1년의 절반이 지났네! 시간 참 빠르다.' 인 것 같아요. 구독자님도 그러지 않으신가요? 올 상반기는 AI를 빼놓고는 얘기할 수가 없는데요. 이번 달에도 AI 소식이 많아 간략하게 주요 이슈를 정리해 보았습니다.
- 먼저 9일에는 챗GPT의 개발사인 오픈AI의 CEO인 샘 알트먼과 공동창업자인 그렉 브록먼 회장, 임원진 6명이 방한하여 'K-Startups Meet OpenAI' 행사에 참여하여 많은 관심을 받았죠.
- 15일에는 메타에서 상업용으로 쓸 수 있는 LLM(대형언어모델)을 오픈소스로 공개할 예정이라고 밝혔는데요. 메타는 지난 2월, 매개변수가 상대적으로 적은 '라마(LLaMA)'를 오픈소스로 공개한 바 있습니다. 다만, 개발자, 학계, 시민단체 등 연구 목적 등에 한해 사용 가능하였습니다. 라마와 달리 상업적으로 사용할 수 있는 새 LLM을 오픈소스로 공개하겠다고 밝힌 메타. 앞으로 AI 생태계는 어떻게 변화할지 벌써부터 궁금하네요.
- 국내에선 네이버가 지난 20일, 생성 AI 챗봇 이름을 '큐:(CUE:)'로 확정하였으며, 기반 시스템으로 활용된 '하이파클로바X'는 7월 24일 공개 예정이라고 밝혔습니다. 챗GPT에 비해 한국어를 6,500배 더 많이 학습했다는 하이파클로바X가 국내에서 어떻게 활용될까요?
사실 이러니저러니 해도 IT 업계뿐만 아니라 많은 이들이 주목한 이슈는 메타 CEO인 마크 주커버그와 테슬라의 CEO인 일론 머스크의 맞대결(cage fight)이 아닐까 싶습니다. 물론 맞대결 없이 이대로 끝날 것 같긴 하지만, 참 다양한 이야기가 많은 달이었네요. 😅
|
|
|
- [TECH ISSUE] AI 반도체, 기존 반도체와 뭐가 다를까?
- [IT GLOSSARY] 다 똑같은 AI 반도체 같은데, 왜 다르게 부를까? AI 반도체 종류 알아보기
- [TECH STORY] 웹 페이지 로딩 과정 이해하기
- [IMQA NEWS]
- IMQA로 웹뷰 분석하기
- 데이터를 바르게 읽고, 이해하는 방법 'MPM 데이터 읽기'
- [BUSINESS STORY] "웹뷰 문제도 빠르게 원인을 찾을 수 있어요!"
|
|
|
#AI반도체 #엔비디아 #AMD #클라우드 #K-클라우드프로젝트 |
|
|
'애플, 아마존, 알파벳, 테슬라, 메타, 마이크로소프트, 그리고 엔비디아?'
역사상 일곱 번째로 1조 달러 클럽에 안착한 미국 기업인 '엔비디아(NVIDIA)'는 AI 개발에 이용되는 AI 반도체를 전 세계 시장에서 90% 이상 공급하고 있습니다. AI 반도체는 기존의 반도체와 어떻게 다르기에 이토록 주목받고 있는 것일까요? AI 반도체와 기존 반도체의 차이와 현황에 대해 정리해 보았습니다. |
|
|
#고공 행진 중인 AI 반도체, 기존 반도체와 무엇이 다를까?
|
|
|
AI에 관심이 없다고 해도 챗GPT, 엔비디아라는 이름은 한 번쯤 들어보셨을 것 같은데요. 너나 할 것 없이 이야기하고 있는 오픈AI의 챗GPT는 더 얘기하면 손가락이 아플 정도고, 엔비디아는 주식 시장이 판도를 뒤엎은 시총 1조 달러 기업이니 엔비디아 역시 익숙한 이름일 것 같습니다.
글로벌 반도체 시장이 고전을 면치 못하는 상황에서 AI 반도체는 그야말로 고공 행진입니다. 반도체면 반도체지, AI 반도체는 대체 뭐가 다른 건가 싶으실 텐데요. AI 반도체를 정의하자면 '인공지능(AI) 서비스를 구현하기 위해 요구되는 데이터 및 알고리즘을 효율적으로 처리할 수 있는 반도체'입니다. CPU와 같은 기존의 반도체는 데이터를 순차적으로 설명하는 반면, AI 반도체는 데이터를 동시에 병렬적으로 연산함으로써 동시다발적인 학습과 추론이 가능합니다. |
|
|
엔비디아의 CEO인 젠슨 황은 엔비디아는 '생성 AI의 심장을 만든다'고 말하는데요. 엔비디아가 생산하고 있는 GPU(Graphic Processing Unit)는 챗GPT와 같은 생성형 AI의 필수품이기에 이해가 되는 비유입니다. 생성형 AI의 경우, 동시다발적으로 발생하는 수많은 데이터를 빠르게 학습하고 처리해야 하므로 병렬처리가 가능한 GPU가 최적의 부품인 것이죠. 실제로 챗GPT가 모델 훈련 과정에서 엔비디아의 GPU 10,000개 이상을 사용했다고 합니다.
|
|
|
인공지능의 성능은 단순히 AI 반도체 성능만으로 결정되는 것은 아닙니다. 하드웨어인 AI 반도체를 다양한 산업 분야에 활용하기 위한 라이브러리, 컴파일러, 드라이버, 시뮬레이터 등의 시스템 소프트웨어 역시 중요하기 때문입니다.
엔비디아의 GPU의 경우, '쿠다(CUDA, Computed Unified Device Architecture)라는 플랫폼을 가지고 있는데요. 이를 두고 엔비디아의 CEO는 엔비디아는 반도체 회사가 아니라 소프트웨어 회사라 말하며, 쿠다라는 자체 플랫폼을 가지고 있기 때문에 가치가 있다는 것이라고도 말했죠.
구글, 메타와 같은 빅테크 기업들이 초기에는 엔비디아, 인텔, 퀄컴과 같은 반도체 기업의 제품을 활용하였으나, 현재는 자사 AI 알고리즘에 최적화된 반도체의 필요성을 느끼고 이에 자체 칩을 제작하여 사용하고 있는 것도 같은 이유죠.
|
|
|
몇 년 전, CPU 시장의 강자인 인텔의 '코어 i 프로세서'의 성능 능가하면서도 가격은 오히려 저렴한 제품으로 선풍적인 인기를 얻은 기업, 기억하시나요? 네, 바로 AMD입니다. 엔비디아가 시총 1조 달러를 돌파하던 날, AMD는 새로운 GPU 'MI300X'를 발표했습니다.
'세계에서 가장 진보한 GPU'라고 칭하며 엔비디아 'H100' 대비 2.4배의 메모리 밀도와 1.6배 이상의 대역폭을 제공한다고 밝혔는데요. 아직 밝혀진 바는 없지만 가격 역시 더 저렴할 것으로 예상하고 있죠. 엔비디아의 GPU는 공급이 밀려 최소 6개월 이상 기다려야 하는 상황이라 이번 AMD 발표에 더 주목하고 있습니다.
|
|
|
AMD가 파운드리(반도체 위탁생산)을 삼성전자와 함께 할 가능성이 있는 상황에서 얼마 전 구글이 한국에 AI 반도체팀을 만들었다는 소식이 전해졌습니다.
최근 구글은 한국에 ‘텐서처리장치(TPU) 아키텍처 팀’을 신설했는데요. 앞에서 빅테크 기업이 자사의 AI 알고리즘에 적합한 자체 AI 반도체 칩을 만들어 쓰고 있다고 말씀드렸는데요. TPU는 구글이 직접 개발하고 있는 AI 반도체로, 한국에 전담 팀을 구성해 R&D를 진행한다고 합니다. 이에 지리적으로도 가까워진 만큼 삼성전자와 파운드리 협력이 이루어지지 않을까, 하는 가능성이 점쳐지고 있죠.
|
|
|
#국내 AI 반도체, 어떻게 성장하고 있을까?
|
|
|
국내의 경우 리벨리온, 퓨리오사, 사피온 코리아와 같은 기업에서 AI 반도체를 연구 개발, 출시하고 있습니다. 그러나 전 세계 시장에서 보면 국내의 AI 반도체 시장은 아직 갈 길이 먼데요.
이에 정부에서는 'K-클라우드 프로젝트'를 통해 국산 AI 반도체와 클라우드를 엮어 글로벌 AI 반도체 기업 육성 및 국내 클라우드 산업 발전을 꾀하고 있습니다. 해당 프로젝트의 1단계는 오는 2025년까지 진행되며, 약 1천억 원이 투입됩니다. 마지막 3단계인 2030년까지는 총 8천262억이 투입됩니다.
그러나 일각에서는 글로벌 AI 반도체 기업으로 성장하기에는 여러모로 부족하다는 의견이 있는데요. 앞서 언급한 것처럼 하드웨어인 AI 반도체 외에도 이를 잘 사용할 수 있는 시스템 소프트웨어가 중요한데, 이 부분은 아직 취약하다는 평이죠. 다만 이제 막 1단계 착수보고회가 진행되었을 뿐이니, 계속 지켜보면 좋을 것 같습니다. |
|
|
* 참고 자료 (기사의 경우, 상세 표기 대신 해당 링크로 대신합니다.)
|
|
|
다 똑같은 AI 반도체인 것 같은데 부르는 이름도 천차만별이죠. 익숙한 GPU부터, 최근 국내에서도 많이 들을 수 있는 NPU 등 다양한 종류의 AI 반도체에 대해 들을 수 있는데요. 어떤 종류가 있고, 그 특징이 무엇인지 간단히 정리해 보았어요. |
|
|
GPU
그래픽처리장치(Graphics Processing Unit)라고 불리는 GPU는 동시 계산 요구량이 많은 그래픽 영상 처리를 위해 고안된 병렬처리 기반 반도체입니다. 수천 개의 코어가 탑재되어 대규모 데이터 연산 처리 시 CPU 보다 성능이 우수합니다.
|
|
|
NPU
신경망처리장치(Neural Processing Unit)라고도 불리는 NPU는 GPU 대비 연산 속도가 빠르고 전력 소모는 낮은 것이 특징입니다. 학습, 추론, 연산 등 AI 연산에 특화되어 있고, 효율이 좋아 가격을 낮출 수 있다는 점에서 일부 영역에서는 GPU를 대체할 수 있을 것으로 주목받고 있습니다.
|
|
|
FPGA
Field Programmable Gate Arrays의 약자로 회로 변경이 불가능한 일반 반도체와 달리 용도에 맞게 회로를 재구성할 수 있는 반도체입니다. 활용 목적에 따라 유연성이 높다는 것이 장점이나, 소비전력이 높다는 단점이 있습니다.
|
|
|
ASIC
Application Specific Integrated Circuits 약자로 특정 용도를 위해 제작된 주문형 반도체로, 가장 빠른 속도와 높은 에너지 효율이 특징입니다.
|
|
|
뉴로모픽 (Neuromophic)
인간의 뇌(뉴런- 시냅스 구조)를 모방하여 연산 처리, 저장, 통신 기능을 융합한 가장 진화된 형태의 반도체 기술입니다. 인공지능 처리에 최적화되어 있으며, 매우 낮은 소비전력으로 가장 진보된 AI 반도체로 평가받고 있으나, 아직은 기초 연구 단계 수준입니다.
|
|
|
(이미지를 클릭하시면 상세 내용을 확인할 수 있어요.) |
|
|
IMQA의 웹뷰 타임라인 데이터를 읽을 때뿐만 아니라, 웹 성능 개선을 위한 내용을 읽어보시기 전에 항상 추천하는 글입니다. 기본적인 웹 페이지 로딩 과정에 대해 알고 보시면, 훨씬 이해가 쉽기 때문이죠. 아직 읽어보지 않으신 분을 위해 추천합니다.
- 웹 브라우저에서 웹 페이지는 어떻게 로딩될까..?
-
- 1단계 서버와 연결하기
- 2단계 서버에 요청하기
- 3단계 응답 파일 해석하기
- 4단계 웹 페이지 그리기
[자세히 보기]
|
|
|
(이미지를 클릭하시면 설치 방법을 확인할 수 있어요.) |
|
|
IMQA는 모든 성능 데이터를 수집, 모니터링하고 있는데요. IMQA에서 수집된 많은 웹뷰 데이터를 어떻게 분석하면 좋을까요? IMQA의 전문 컨설팅처럼 정확하게 분석하실 수 있도록 실제 성능 컨설팅 방법을 기반으로 웹뷰 성능 개선이 필요한 부분을 어떻게 찾고, 추적해야 하는지 정리해 보았습니다.
[자세히 보기]
|
|
|
데이터를 바르게 읽고, 이해하는 방법 'MPM 데이터 읽기'
|
|
|
(이미지를 클릭하시면 설치 방법을 확인할 수 있어요.) |
|
|
IMQA는 실시간으로 모든 성능 데이터를 수집하기 때문에 많은 데이터를 수집합니다. 데이터를 쉽고, 빠르게 확인하실 수 있도록 다양한 시각화를 통해 보여드리고 있는데요. 모니터링 방법에 따라 자주 발생하는 사례와 함께 데이터를 바르게 읽고, 이해하는 법을 정리해 보았습니다.
[자세히 보기]
|
|
|
이벤트 페이지 오픈 직후, 화면로딩 시간이 길어지는 것을 확인했어요. 이미 이벤트를 시작한 후라 빠르게 개선해야 하는데 문제의 원인을 파악하기 어려웠어요.
|
|
|
웹뷰 타임라인 분석을 통해 상세 원인을 파악할 수 있었어요. Document Request와 Resource 부분의 상세 지표를 통해 어디가 어떻게 문제인지 확인이 가능했죠. 확인해 보니 리소스를 불러오는 데 시간이 너무 많이 걸리는 거였어요. 이벤트 내용이 많다 보니 이미지가 매우 길었는데, 하나의 이미지로 사용하는 게 문제였죠. 앱에 맞게 최대한 이미지 용량을 줄이고, 이미지를 잘라서 올렸더니 문제없이 로딩되었어요. |
|
|
상세 페이지가 점점 길어지고 있는데, 하나의 이미지로 올리지 않고 일정 사이즈에 맞춰 잘라서 올리고 있어요.
|
|
|
6월의 IMQA 이야기, 어떠셨나요?
재밌게 읽어보셨길 바라며, 우리는 7월 31일에 다시 만나요!
|
|
|
◽ 유용한 정보가 스팸함으로 가지 않도록 support@imqa.io를 주소록에 추가해 주세요.
IMQA
support@imqa.io
서울시 용산구 두텁바위로21, 5층 02-541-0080
|
|
|
|
|
