일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |
- 시스템프로그래밍
- 프로세스 주소 공간
- 개발남노씨
- vite
- 김영한
- 인터럽트
- Git
- 반효경
- 쉬운 코드
- 코딩애플
- 코딩테스트 [ ALL IN ONE ]
- concurrency control
- recoverability
- CPU 스케줄링
- B tree 데이터삽입
- 시그널 핸들러
- 쉬운코드
- 운영체제
- SQL
- 네트워크
- 운영체제와 정보기술의 원리
- 갤럭시 S24
- 백엔드
- 온디바이스AI
- 트랜잭션
- 커널 동기화
- 데이터베이스
- Extendable hashing
- SDK
- BreadcrumbsComputer-Networking_A-Top-Down-Approach
- Today
- Total
티끌모아 태산
AI 기능 탑재한 '갤럭시 S24' 본문
최근 삼성전자에서 인공지능(AI) 기능을 탑재한 스마트폰 '갤럭시 S24' 을 공개하면서 많은 사람들의 관심을 끌고 있다. 주목 할 만한 기능은 다음과 같다.
- 실시간 통역기능(온디바이스지원): 말그대로 실시간으로 통역을 해주는 기능이다. 이는 사용 언어가 다른 외국인과 통화를 하면서 실시간으로 번역을 해주는 서비스를 말한다. 예를들어, 내가 한국말로 말을 하면 상대방의 자국언어로 번역돼서 음성이 전잘되는 방식이다. 번역 시간이 있기때문에 약간 느리기는 하지만 획기적인 발전의 시작점이라고 생각한다.
출처: 삼성 - 서클 투 터치 기능(구글과 삼성 협력, 클라우드기반): TV나 영상을 보면서 해당 연예인이 착용하고 있는 옷이나 악세사리 등이 궁금해서 찾아본 경험이 있을 것이다. 이 기능은 영상을 보다가 찾아보고 싶은 제품 등이 있다면 동그라미 터치만으로 바로 검색을 해주는 기능이다.
- 노트 어시스트 기능(클라우드기반): 해당 기능은 말그대로 형식없이 적은 글들을 깔끔하게 요약해주는 기능이다. 이 기능은 회의나 공부들을 하면서 적은 글들을 알아보기 쉽게 요약할 때 유용할 것 같다.
- 포토 어시스트 기능(클라우드기반): 이 기능은 사진을 찍고 편집하고 싶은 피사체만 편집할 수 있도록 도와주는 기능이다.
- 메시지 번역기능(클라우드기반): 외국인과 메시지를 주고받을 때 실시간으로 번역을 해주는 기능이다.
- Speech-to-text 기능(클라우드기반): 음성을 텍스트로 적여주는 기능인데 일반적으로 알고있는 네이버 클로바와 같다고 생각하면 된다. 회의할 때 유용. 최대 10명의 목소리를 구분해서 적요준다.
이와 같이 이번에 출시되는 갤럭시 S24 모델에는 AI 기능이 탑재되어 많은 사람들의 이목을 끌고있다. 그리고 이러한 기능들 중 일부는 삼성전자 자체에서 개발한 칩(엑시노스, 스냅드래곤)을 탑재한 '온디바이스 AI' 기반이라는 점에서 관심을 가질만 하다. 저번 포스팅에서 잠깐 소개했지만 클라우드 기반의 AI와 달리 온디바이스 AI의 기능은 다음과 같다.
- 클라우드 서비스를 빌리지 않아도 된다. -> 비즈니스 기회 창출, 타사 의존도를 낮추고 자체 기업 경쟁력 향상
- 클라우드 방식보다 처리 속도가 빠르다. -> 사용자 경험 개선, 예를들어 음성인식, 카메라 기능 향상. 클라우드 서버에서 요청을 처리하지 않고 로컬에서 처리하기 때문에 Latency 가 줄어든다.
- 개인 정보 보호 및 보안 강화: 사용자의 민감한 개인정보와 같은 데이터를 클라우드 서버가 아닌 로컬 장치(스마트폰, 테블릿 등)에서 처리함으로써, 데이터의 해킹 및 유출의 위험을 방지할 수 있다.
- 인터넷 접근성 불필요: 인터넷이 불안정하거나 인터넷 연결 없이도 AI 기능을 사용할 수 있다. 예를들어, 비행기를 탈때 인터넷을 비행기모드로 해놓는데 이제는 인터넷 연결 없이도 AI기능을 사용할 수 있게 된다.
이러한 이유들로 삼성전자는 자체집을 개발하여 온디바스 AI를 실현하였다. 물론 미래에는 어떻게 될 지 모르겠지만 현재모든 기능을 온디바이스 AI기반으로 할 수는 없다. 왜냐하면 빅데이터 처리나 AI 기능은 많은 연산량이 필요하기 때문에 로컬 장치에 탑재된 칩만으로 감당하기에는 한계가 있다. 그래서 많은 처리량이 필요한 기능은 클라우드 서비스를 빌리고 연산량이 비교적 적은 기능은 온디바이스 AI로 대체하여 기업의 경쟁력을 높이는 것이 중요한 것 같다.
좀 더 구체적으로 살펴보면, ChatGPT를 통해 프롬프트에서 원하는 질문을 한 후 답변이 오는 과정은 어떻게 될까? 우리가 사용하는 컴퓨터 서버에서 응답을 해주는 것일까? 아니다. 이는 클라우드 기반의 서비스이기 때문에 openAI에서 갖고 있는 서버로부터 응답을 받아오는 것입니다. 즉,
- (사용자) 프롬프트 작성. 테블릿이든, 일반 가정용 컴퓨터든
- 요청을 로컬 장치나 내 컴퓨터에서 처리하는 것이 아니라 OpenAI에서 지니고 있는 서버까지 보낸 후 거기서 처리
- 처리된 내용을 받아와서 마지막으로 응답을 출력
보통 GPT 3.5가 1,750억 개의 파라미터를 돌릴 수 있는데, 삼성전자 자체에서 개발한 칩을 탑재한 갤럭시 S24에서는 최대 100억개의 파라미터를 돌릴 수 있다. 즉 최대 100억개를 돌릴 수 있는 온디바이스를 지원한다. 그렇기 때문에 모든 기능이 온디바이스로 돌리는 것이 아니라는 것을 이해하면 좋을거 같고, 위에서 말했듯이 무거은 모델은 서버를 이용해서 돌리고 비교적 가벼운 모델은 온디바이스를 통해 해결함으로써 이를 적절하게 활용하는 것이 좋을거 같다. 앞으로 어떤 더 많은 AI 기능이 나올지 기대하며 오늘 글을 마무리 한다.
'AI' 카테고리의 다른 글
AI 전쟁 시대, 어떻게 준비 해야 할까 (1) | 2024.01.27 |
---|---|
온디바이스 AI (0) | 2024.01.20 |
AI 트렌드 (0) | 2024.01.17 |