기업 내부용 AI 챗봇 '아마존Q' 등 주요 서비스 소개
"아마존웹서비스(AWS)는 서비스 아키텍처(구조) 설계가 '프루걸'(frugal·검소한)해야 한다고 강조합니다. 늘 비용을 염두에 두죠."
양승도 AWS코리아 설루션즈아키텍트(SA) 총괄은 23일 서울 강남구 역삼동 센터필드 사무실에서 열린 언론 간담회에서 이같이 강조했다.
SA부서는 AWS의 다양한 클라우드 제품을 기업 고객들이 성공적으로 쓸 수 있게 도와주는 업무를 담당한다.
양 총괄은 "아키텍처 설계는 트레이드-오프(trade off·상충)의 연속"이라며 "결국 현재 (고객의 입장에서) 중요한 것이 무엇인지 판단하는 일이 중요하다"고 설명했다.
이어 "비용의 최적화는 어느 한순간에 이뤄지는 게 아니라 점진적으로 이뤄진다"면서 "비용의 최적화 방안을 항상 고민해야 하는 이유"라고 역설했다.
양 총괄은 이날 간담회에서 'AWS 리인벤트 2023'에서 공개된 '아마존 큐(Q)'와 '아마존 베드록(Bedrock)', '그래비톤4'(Graviton4)와 '트레이니움2'(Trainium2) 등의 주요 서비스들을 소개했다.
AWS리인벤트는 AWS가 2012년부터 매년 말 미국 라스베이거스에서 열리는 세계 최대의 클라우드 콘퍼런스다.
아마존큐는 AWS에서 출시한 기업 내부용 생성형 AI 기반의 챗봇으로, 마이크로소프트(MS)의 코파일럿과 비슷한 계열의 서비스다.
양 총괄은 아마존큐의 차별화한 경쟁력에 대한 질문에 "철저히 비즈니스 목적에 맞게 개발됐다는 점"이라며 "고객이 원하는 서비스를 우선순위로 개발한다는 아마존의 철학이 반영된 서비스"라고 소개했다.
아울러 아마존베드록은 앤트로픽의 클로드2, 메타의 라마2, 아마존의 타이탄 등의 여러 파운데이션 모델을 미세조정(파인튜닝)하는 방식으로 출시된 서비스다.
양 총괄은 베드록에서 생성형 AI의 고질적인 문제로 꼽히는 환각(할루시네이션)과 보안 우려에 '검색 증강 생성'(RAG), '가드레일' 기술 등을 적용하고 있다고 설명했다.
AWS는 AI 개발에 필수적인 자체 칩 개발에도 공을 들이고 있다.
2018년에 출시한 자체 제작 범용 컴퓨팅 프로세서 '그래비톤'은 5년 만에 4세대로 진화하며 속도·성능이 대폭 개선되고 전력 사용 효율은 높아졌다.
또 기계학습(머신러닝)에 최적화한 '트레이니움1'에 이어, 지난해 말 공개된 '트레이니움2'는 속도를 4배, 에너지 효율성을 최대 2배로 향상했다.
이 밖에 AWS는 엔비디아로부터 차기 그래픽처리장치(GPU)로 평가받는 'GPU H200'(GH200)을 우선 공급받기로 했다.
양 총괄은 "AWS는 넓은 선택의 폭으로 고객에게 필요한 혁신을 추진하려고 한다"고 말했다.
https://www.yna.co.kr/view/AKR20240123126700017?section=industry/technology-science
'IT Insight' 카테고리의 다른 글
금융위, 'AI 기술과 상충' 금융부분 망분리 규제 합리화 추진 (0) | 2024.04.13 |
---|---|
"클라우드는 AI 필수 인프라"…정부, 연내 4차 기본 계획 마련(종합) (0) | 2024.04.13 |
KT, 차세대 SDN 컨트롤러 개발…네트워크 안정성 강화 (0) | 2024.01.16 |
대전시 서버 지난해 악성코드 감염…가상화폐 채굴에 이용 (0) | 2024.01.15 |
[CES 2024] SK네트웍스, AI솔루션 스타트업 '업스테이지'에 250억원 투자 (0) | 2024.01.15 |