AI Edge Gallery는 세계에서 가장 강력한 오픈 소스 대규모 언어 모델(LLM)을 모바일 기기에서 실행할 수 있는 최고의 플랫폼입니다. 고성능 생성형 AI를 하드웨어에서 직접 경험해 보세요. 완전 오프라인, 개인 정보 보호, 그리고 초고속 성능을 제공합니다.
새로운 기능: EmbeddingGemma 2
이번 업데이트에서는 새롭게 출시된 EmbeddingGemma 2 모델에 대한 공식 지원이 추가되었습니다. 이 릴리스를 통해 최첨단 멀티모달 의미 검색 기능을 기기에서 100% 실행할 수 있습니다. 새로운 기능인 인스턴트 미디어 검색과 비디오 순간 찾기에서 이러한 새로운 기능을 사용해 보세요.
핵심 기능
- 에이전트 스킬: LLM을 단순한 대화형 모델에서 능동적인 비서로 전환하세요. 에이전트 스킬 타일을 사용하여 위키피디아를 통한 사실 확인, 인터랙티브 지도, 풍부한 시각적 요약 카드와 같은 도구를 모델 기능에 추가할 수 있습니다. URL에서 모듈형 스킬을 로드하거나 GitHub 토론에서 커뮤니티 기여를 탐색할 수도 있습니다.
- 사고 모드가 포함된 AI 채팅: 유연하고 다단계적인 대화를 나누고, 새로운 사고 모드를 활성화하여 모델의 작동 방식을 살펴보세요. 이 기능을 통해 모델의 단계별 추론 과정을 확인할 수 있어 복잡한 문제 해결 과정을 이해하는 데 도움이 됩니다. 참고: 사고 모드는 현재 Gemma 4 제품군부터 지원되는 모델에서 작동합니다.
- 즉시 미디어 검색: 빠르고 간편한 자연어 검색 및 이미지 간 유사도 매칭 기능을 사용하여 사진 라이브러리(또는 내장 샘플 미디어)를 탐색하세요. 클라우드 서버와의 데이터 왕래 없이 검색할 수 있습니다.
- 비디오 순간 찾기: 자연어 설명을 사용하여 비디오 내 정확한 순간을 찾아낼 수 있습니다. 인터랙티브 타임라인에서 강조 표시된 타임스탬프로 바로 이동하고, 클립을 자르고, 좋아하는 순간을 저장하거나 내보낼 수 있습니다.
- 이미지 검색: 기기의 카메라 또는 사진 갤러리를 사용하여 다양한 모달리티 기능을 활용해 사물을 식별하고, 시각적 퍼즐을 풀거나, 자세한 설명을 얻을 수 있습니다.
- 오디오 스크라이브: 고효율 온디바이스 언어 모델을 사용하여 음성 녹음을 실시간으로 텍스트로 변환하고 번역합니다.
- 프롬프트 랩: 온도 및 top-k와 같은 모델 매개변수를 세밀하게 제어하여 다양한 프롬프트와 단일 턴 사용 사례를 테스트할 수 있는 전용 작업 공간입니다.
- 모바일 액션: FunctionGemma 270M의 정밀한 튜닝을 통해 오프라인 장치 제어 및 자동화된 작업을 이용할 수 있습니다.
- 타이니 가든: FunctionGemma 270m의 정밀한 튜닝을 사용하여 자연어로 가상 정원을 가꾸고 수확하는 재미있고 실험적인 미니 게임입니다.
- 모델 관리 및 벤치마크: 갤러리는 다양한 오픈 소스 모델을 위한 유연한 샌드박스입니다. 목록에서 모델을 쉽게 다운로드하거나 사용자 지정 모델을 로드할 수 있습니다. 모델 라이브러리를 간편하게 관리하고 벤치마크 테스트를 실행하여 각 모델이 특정 하드웨어에서 어떻게 작동하는지 정확하게 파악할 수 있습니다.
- 100% 온디바이스 개인 정보 보호: 모든 모델 추론은 장치 하드웨어에서 직접 이루어집니다. 인터넷 연결이 필요하지 않아 프롬프트, 이미지 및 민감한 데이터의 개인 정보 보호가 완벽합니다.
커뮤니티를 위해 개발되었습니다.
AI Edge Gallery는 개발자 커뮤니티와 AI 애호가 모두를 위해 설계된 오픈 소스 프로젝트입니다. 예제 기능을 살펴보고, 여러분의 기술을 공유하여 온디바이스 에이전트 생태계의 미래를 함께 만들어 나가세요.
GitHub에서 소스 코드를 확인하세요.
https://github.com/google-ai-edge/gallery
참고: 이 앱은 현재 개발 중입니다. 성능은 기기의 하드웨어(CPU/GPU)에 따라 달라질 수 있습니다. 지원이나 의견이 있으시면 google-ai-edge-gallery-android-feedback@google.com으로 문의해 주세요.
Gemma 및 기타 오픈 소스 LLM을 로컬에서 실행하세요: 개인 정보 보호, 빠른 속도, 오프라인 AI 환경 구축