로컬AI | Tech
기술 소식을 전하고 배경과 출처를 함께 소개합니다.
Echo Dot Assist, 구형 Echo를 Home Assistant 음성 단말로
모델과 펌웨어가 맞아야 하며 AI로 작성된 미감사 코드와 부트로더 변경의 위험을 확인해야 합니다.
Memoria, 사진을 기기 안에서 문장과 이미지로 검색
초기 색인 비용과 파일 관리의 한계를 고려해야 하는 안드로이드 로컬 AI 사용 사례입니다.
Gemma 4 로컬 추론 사례, 맞는 초안 모델로 속도 개선
RTX 4070 Ti Super의 세 작업에서 나온 수치로 모든 하드웨어와 모델에 같은 향상을 보장하지 않습니다.
엔비디아, 게임과 로컬 AI의 GPU 자원 조절 추가
전경 앱과 백그라운드 에이전트를 함께 실행할 때의 자원 배분을 다룬다
Opera, 웹사이트용 로컬 AI 미리보기
사용자 선택과 사이트별 권한을 전제로 기기에서 모델을 실행한다
Microsoft가 로컬 AI 개발용 Windows 11 제니스를 공개했습니다
64GB 이상 통합 메모리와 고대역폭 하드웨어가 필요해 초기 도입 비용은 높습니다.
Hermes Desktop이 로컬 AI 모델 설정을 자동화했습니다
하드웨어별 모델과 64K 컨텍스트를 자동 맞추지만 속도와 품질은 장비별 확인이 필요합니다.
Microsoft가 64GB 개발자 PC용 Project Zenith를 공개했습니다
로컬 AI 개발 장비를 고를 때 메모리 용량과 함께 사전 설치 도구 및 Windows 기본 설정의 재현성을 비교할 수 있습니다.
Nvidia PAIR가 여러 PC의 유휴 GPU에 AI 추론을 분산합니다
남는 장비를 로컬 에이전트 병렬 처리에 쓸 수 있지만 단일 대형 모델의 메모리 한계를 해결하지는 않습니다.
더 볼 글이 없습니다.