티끌모아 태산

온디바이스 AI 본문

AI

온디바이스 AI

goldpig 2024. 1. 20. 15:56
728x90

온디바이스 AI

요즘 삼성전자 등 국내 대기업 뿐만 아니라 글로벌 Big tech 기업들도 온디바이스 AI에 집중하고 있다. 이런 거대 기업들이 '온디바이스 AI'에 관심을 쏟고 투자하는 이유는 무엇을까? 

  1. 경제적 장점 즉,  '온디바이스 AI'는 클라우드 서버를 빌리지 않고도 기기 내에서 원하는 AI 기능을 작동시킬 수 있다는 경제적 장점이 있다. 
  2. 클라우드 방식보다 속도가 더 빠르다.
  3. 데이터 센터를 지을 필요가 없어서 데이터센터 비용과 규제 우려를 고려하지 않아도 된다. 

이와같은 장점들이 있기 때문에 많은 거대 기업들이 '온디바이스 AI'에 투자하고 있는 것이다. 그러므로 온디바이스 AI로 인하여 각국의 기업들이 자사 스마트폰, 가전제품, 자동차 등에 자체 AI 기능을 탑재하는 것은 이제 시간문제다. 또한 한편으로 이렇게 자체 AI 반도체칩을 개발함으로써 타사 의존도를 낮추고 경쟁력을 높일 수 있다. 삼성과 애플 그리고 테슬라와 같은 기업들도 자체 AI 칩 개발에 심혈을 기울이고 있다. 

클라우드 서비스

  이렇게 클라우드 서버를 빌리지 않아도 된다는 장점이 있는 온디바이스 AI 칩 개발에 많은 기업들이 사활을 걸고 있는데, 그러면 지금까지 왜 기업들은 클라우드 서비스를 활용하고 있는 것일까? 예를들어, 좋은 아이디어가 있어 AI 스타트업을 창업했다고 가정해보자. 나는 AI 웹 서비스를 개발하였지만 이용자가 많아질 경우 많은 양의 데이터를 저장하고 관리할 공간 즉 서버가 필요하다. 그러기 위해 나는 데이터센터를 지을 땅도 구매해야하고 데이터 센터도 지어야하고 유지 보수도 해야하기 때문에 많은 자금이 필요할 것이다. 하지만 나에게 그렇게 큰 자본금이 없어 큰 문제에 봉착하게 되었다. 이때, 이러한 문제를 해결해주는 것이 클라우드 서비스이다. 

  클라우드 서비스는 아마존에서 제공하는 AWS, 마이크로소프트에서 제공하는 Azure 등이 있으면 이들은 나와같은 사람에게 서버를 빌려주는 서비스를 제공한다. 즉, 내가 일정 비용을 내고 서버를 빌려쓰는 것이다. 이렇게 함으로써 나는 자체 데이터 센터를 지을 땅을 매입할 필요도 없고, 유지 보수로 인한 비용도 발생하지 않는다. 따라서 클라우드 컴퓨팅은 IT 리소스를 인터넷을 통해 온디맨드로 제공하고 사용한 만큼만 비용을 지불하는 것을 말한다. 이렇게 많은 기업들이 클라우드 서비스를 제공받음으로써 다양한 유형, 규모 및 산업의 조직이 데이터 백업, 재해 복구, 이메일, 가상 데스크톱, 소프트웨어 개발 및 테스트, 빅데이터 분석, 고객 대상 웹 애플리케이션 등 다양한 사용 사례를 보여주고 있다. 

AI을 위한 데이터 센터

우선, 데이터센터는 ICT(정보통신기술) 산업에 중심이 되는 기발시설이다. 데이터를 저장할 수 있고, 처리하기 위한 고성능의 서버를 보관하며, 또 서버를 탑재할 수 있는 랙(Rack) 시스템, 전산 장비에 전력을 공급하는 대규모 수전설비부터 발열로 인한 장애를 막는 냉각 시스템까지, 이 모들것을 갖춘 시설을 데이터 센터라고 부른다.

  • 데이터를 저장, 처리하기 위한 서버
  • 서버를 탑재하는 랙
  • 전산 장비에 전력을 공급하는 대규모 수전설비
  • 발열을 막기위한 냉각 시스템

쉽게 말해, 기업이나 기관이 대량의 데이터를 안전하게 보관하고 효율적으로 관리할 수 있도록 지원하는 기능을 한다. 그런데 디지털 기술이 날이 갈 수록 발전하고 이에 따라 데이터량의 사용량과 저장량이 폭증하고 그로 인해 여러 IT 리소스를 통합적으로 관리 할 수 있는 클라우드 컴퓨팅이 확산 되면서, 이를 위한 대규모 데이터센터 또한 의존도가 높아지고 있다. 그래서 결국 대용량 데이터를 신속하게 처리하고 이를 자동화 하고 최적화 하면서도 보안까지 정교하게 구축해 내기 위해 필요한 기술이 역시나 AI 기술입니다. 그래서 AI 성장 곧 데이터 센터의 성장이라고 봐도 될 것 같다. 

1. 하이퍼 스케일 

기존 데이터센터 대비 대규모로 설계된 데이터 센터이다. 규모가 매우 크기 때문에 많은 자본이 필요하다. 그래서 기업의 자본이 부족한 기업들은 하이퍼 스케일의 데이터 센터를 나눠사용하는 반면, 자본금이 충분한 빅테크 기업들은 자체적인 하이퍼 스케일 데이터 센터를 보유하는 흐름으로 나아가고 있다. 대용량의 데이터를 빠르게 처리할 수 있다는 장점이 있기 때문이다.

2. 엣지 스케일

이는 소규모 데이터 센터이다. 스마트포, 자율주행, 스트리밍 서비스와 같은 서비스를 위해 엣지 디바이스와 최대한 가깝게 설치해서 IT서비스의 속도와 안정성, 보안을 개선하는데 특징이 있다. 그래서 많은 기업들이 하이퍼 스케일 뿐만 아니라 엣지 스케일의 데이터 센터 구축에서 많은 투자를 하고 있다. 

마무리

지금까지 왜 많은 기업들이 온디바이스 AI 개발에 집중하는지 알아보았다. 자본금이 충분한 빅 tech 기업들은 타사 클라우드 서비스에 의존하기 보다는 AI에 최적화된 자체 데이터 센터를 구축하여 타 기업의 의존도를 낮추고 기업의 경쟁력을 높이면서도 더 나아가 온디바이스 AI 개발에 집중하는 전략은 어찌보면 당연한 일이다. 기술이 어려울 뿐이지..! 날이 갈 수록 새로운 기술력이 쏟아지고 있는 세상에서 앞으로 삼성전자, 엔비디아, 국내외 빅테크 기업들의 횡보가 어떻게 될 지 그리고 어떻게 경쟁을 이어갈 지 기대된다. 그리고 테슬라에서 옵티머스2 를 공개했었는데 앞으로의 로봇 시장이 얼마나 커지고 더욱더 발전할지 기대된다!

728x90

'AI' 카테고리의 다른 글

AI 기능 탑재한 '갤럭시 S24'  (1) 2024.01.21
AI 트렌드  (0) 2024.01.17
What is Federated learning  (0) 2023.11.07