AI의 중심이 거대한 클라우드만이 아니라 스마트폰 안의 온디바이스 모델과 개인정보 보호형 클라우드로 넓어지고 있습니다.
온디바이스 AI란 무엇인가
온디바이스 AI는 사용자의 요청을 외부 서버로 보내지 않고 스마트폰이나 태블릿 안에서 처리하는 방식입니다. 네트워크가 불안정해도 작동할 수 있고, 민감한 데이터가 기기를 떠나는 일을 줄일 수 있습니다.
다만 작은 기기는 전력과 메모리, 발열에 제한이 있어 모든 작업을 로컬에서 처리할 수는 없습니다.
애플의 두 갈래 구조
Apple Intelligence는 기기 안에서 실행되는 Apple Foundation Models와, 더 큰 계산이 필요할 때 사용하는 Private Cloud Compute를 결합합니다. 2026년 공개된 3세대 모델군은 온디바이스 모델과 서버 모델을 함께 구성했습니다.
개발자에게 열린 Foundation Models
Foundation Models 프레임워크는 앱 개발자가 온디바이스 모델을 활용해 요약, 분류, 문장 생성과 도구 호출 같은 기능을 만들 수 있게 합니다. 로컬 추론은 서버 호출비용과 지연시간을 줄일 수 있지만, 모델 버전과 기기 성능에 따른 차이를 충분히 시험해야 합니다.
의료와 일상에서의 가능성
진료 메모 초안, 개인 일정 정리, 사진과 문서 분류처럼 개인정보가 중요한 작업에서 온디바이스 AI의 장점이 큽니다. 그러나 의료적 판단이나 고위험 의사결정을 기기 내 모델의 답변만으로 맡겨서는 안 됩니다. 개인정보 보호와 정확성 검증은 별개의 문제이기 때문입니다.
핵심 정리
AI의 중심이 거대한 클라우드만이 아니라 스마트폰 안의 온디바이스 모델과 개인정보 보호형 클라우드로 넓어지고 있습니다. 수치와 연구결과는 적용 범위와 한계를 함께 확인해야 하며, 한 가지 결과만으로 개인이나 사회 전체의 결론을 단정해서는 안 됩니다.
출처
이 글은 기존 대화의 원고 제목과 핵심 내용을 바탕으로 자료를 다시 확인해 HTML 형식으로 재구성했습니다.