나의 일상을 바꾸는 온디바이스 AI

갤럭시 S24가 출시하기 전에는 온디바이스 AI를 전혀 들어보지 못했습니다. 이미 인공지능 관련하여 거대언어모델(LLM), 딥러닝, 머신 러닝, 생성형 AI 등 생소한 용어들에 지쳐 있기에 새로운 단어가 나타나면 거부감이 들지 않을 수 없습니다. 얼핏 보면 반도체 제조사, IT 기업에서 필요한 용어로 보이지만 향후 우리 삶과 비즈니스를 바꿀 아주 중요한 용어이기에 개념을 알고 있는 것이 좋습니다. 개인적으로 이 분야의 전문가는 전혀 아니기에 최대한 제가 이해한 수준에서 설명을 드립니다.

 

인터넷 연결이 필요 없는 AI

말 그대로 인터넷 연결 없이 스마트폰, 태블릿과 같은 디바이스에 자체적으로 내장된 AI를 말합니다. 우리가 흔히 알고 많이 사용하고 있는 챗 GPT는 인터넷 연결을 통해 데이터센터에서 정보를 불러오지만 온디바이스 AI는 데이터를 실시간으로 기기 내부에서 처리할 수 있습니다.

갤럭시 S24가 현재 대표적인 온디바이스 기기로 생성형 편집 기능을 지원하고 있습니다. 이미지 속 개체의 장소나 사람에 따라 이미지를 구분하거나, 이미지에서 일부 개체를 떼어내는 누끼 작업을 할 수 있습니다. 실제 제가 가진 갤럭시 S23으로 이 기능을 구현했을 때 정말 놀라지 않을 수 없었습니다. 정말 가장자리가 깔끔하게 정리되었고 잘린 빈 공간을 주위 이미지에 맞춰 자동으로 생성해 주었습니다. 이는 기기에 탑재된 AI가 데이터를 처리함으로써 우리가 원하는 결과를 만들어 내는 것입니다. 최근 이 기술은 신경처리장치(NPU)라고 하는 AI 추론 전용 프로세서를 통해 더욱더 발전하고 있습니다.

 

왜 온디바이스 AI가 필요한가?

전 세계 어디를 가든 인터넷이 연결되어 있고 언제 편하게 사용할 수 있습니다. 하지만 사용할 수는 있지만 실제 집에서 사용하는 것처럼 편하게 사용할 수는 없습니다. 예를 들어, 해외여행에서 통역 앱을 사용하려고 하는데 인터넷이 원활하지 않다면 기다리거나 이동하는 것 외에 별다른 방법이 없습니다. 그렇다면 인터넷 연결 없이 실시간 번역이 가능하다면?

첫 번째, 처리 속도가 빠릅니다. 아무리 빠른 인터넷이라도 클라우드나 데이터센터를 사용하면 딜레이 시간이 발생하게 됩니다. 또한 통신 환경에 따라 딜레이는 더 심하게 발생할 수도 있습니다. 온디바이스 AI는 이러한 제약 없이 자신의 기기만으로 실시간 번역을 할 수 있고 고품질의 이미지를 생성할 수 있습니다.

두 번째, 기업의 입장에서는 비용을 절감할 수 있습니다. 거대언어모델(LLM), 생성형 AI가 점점 더 보급됨에 따라 관련 인프라 비용은 지속적으로 증가할 수밖에 없습니다. 단순한 이미지 수정과 같은 작업을 스마트폰에서 자체적으로 처리할 수 있다면 클라우드, 데이터 센터, 통신망 등의 인프라 비용을 줄일 수 있습니다.

마지막으로 개인 맞춤과 정보 보안에 장점이 있습니다. AI는 학습한 정보나 인터넷 등에서 정보를 수집하여 제시해 주기에 나만의 취향이나 자주 가는 장소 등을 파악하지 못하며, 그렇기에 내가 원하는 맛집을 추천하기 어렵습니다. 따라서 개인에게 맞춤형 서비스를 제공하고자 한다면 개개인의 데이터(나이, 취향 등)나 디바이스의 카메라, 위치 센서 등을 통해 사용자 환경을 내부적으로 수집 분석할 수 있는 온디바이스 AI가 적합합니다. 또한 클라우드, 데이터센터에 전송하지 않고 디바이스 내에서만 처리하기에 다양한 AI 서비스를 안심하고 이용할 수 있는 장점도 있습니다.

 

나의 일상을 바꾸는 온디바이스 AI

앞서 설명 드린 바와 같이 온디바이스 AI는 개인 맞춤형 서비스를 제공함으로써 우리의 일상을 바꿀 것으로 예상이 됩니다.

• 실시간 번역: 갤럭시 S23 업데이트하고 가장 기대했던 기능입니다. 아직 일상생활에서 사용하는 언어를 번역하기에는 완벽하지는 않지만 말의 의미를 파악하고 이해하는데 전혀 무리가 없었습니다. 향후 몇 년 안에는 언어학습의 필요성이 줄어들지 않을까 조심스럽게 기대해 봅니다.
• 개인 어시스턴트: 개인 비서 역할을 수행할 수 있습니다. 우리는 스마트폰을 거의 24시간 곁에 두고 사용하고 있습니다. 그렇기에 어느 누구보다, 어떤 무엇보다 스마트폰은 나의 일상, 습관, 선호도 등을 정확하게 파악할 수 있습니다. 또한 개인의 시청, 검색, 구매 기록 등을 분석하여 사용자에 적합한 콘텐츠를 추천해 줄 수 있습니다.
• 그 밖에 사진을 분류하거나 문서 정리 등의 반복 작업뿐 아니라 웨어러블 기기 확장을 통해 개인 활동 추적, 건강 관리 등 다양하게 활용할 수 있습니다.

이와 같이 온디바이스 AI는 개인의 사용 습관을 학습하여 우리의 필요를 예측하여 진정으로 개인화된 서비스를 제공할 것입니다. 

 

이상 나의 일상을 바꾸는 온디바이스 AI에 대해 전해 드렸습니다.

감사합니다.

 

핵심 요약(갤럭시 S23 요약기능 사용) ✔ 온디바이스 AI는 인터넷 연결 없이 스마트폰, 태블릿과 같은 디바이스에 자체적으로 내장된 AI로, 데이터를 실시간으로 기기 내부에서 처리할 수 있습니다. ✔ 처리 속도가 빠르고, 기업의 비용을 절감할 수 있으며, 개인 맞춤과 정보 보안에 장점이 있습니다. ✔ 개인 맞춤형 서비스를 제공함으로써 우리의 일상을 바꿀 것으로 예상되며, 실시간 번역, 개인 어시스턴트, 사진 분류, 문서 정리, 개인 활동 추적, 건강 관리 등 다양하게 활용될 수 있습니다. ✔ 온디바이스 AI는 개인의 사용 습관을 학습하여 우리의 필요를 예측하여 진정으로 개인화 된 서비스를 제공할 것입니다.