로컬 AI | Tech
기술 소식을 전하고 배경과 출처를 함께 소개합니다.
Parakeet 소형 음성 인식, 로컬 받아쓰기 구성 사례
녹음 파일과 시스템 오디오를 기기 안에서 처리하되 실제 속도와 정확도는 환경마다 다릅니다.
Home Assistant와 Piper로 로컬 음성 알림 구성
음성 인식과 합성의 역할을 나눠 클라우드 의존을 줄였다
로컬 코딩 에이전트 실험, 재시작 검사에서 버그 발견
거의 6시간 개발한 앱도 단위 기능 통과만으로 완성되지 않았다
Jellyfin 추천 실험, 로컬 LLM 결과도 메타데이터로 검증
15편의 인위적 시청 이력을 쓴 개인 시험으로, 대규모 추천 시스템보다 우수하다는 비교는 아닙니다.
ExcelLLMAddin 사례, 로컬 모델로 표 편집 보조
로컬 모델 연결만으로 파일 동기화까지 차단되는 것은 아니므로 저장 위치와 외부 도구를 따로 점검해야 합니다.
Drex Max 가중치 공개, Mac 로컬 실행은 텍스트만 지원
OpenRAIL-M 조건의 모델로, 양자화 방식별 24GB 또는 48GB 메모리 요구를 구분해야 합니다.
비탈릭, 추천 피드와 상시 접속을 줄인 생활 실험 공개
앱을 무조건 없애기보다 접속 방식과 로컬 도구를 선택하는 접근이며 개인 경험을 보편적 효과로 볼 수는 없습니다.
Draw Things, Mac용 로컬 업무 비서 Local Code 출시
로컬 모델은 기기에서 처리하지만 클라우드 모델 선택 시에는 해당 제공자로 자료가 전송됩니다.
Swift 공개 패키지, 로컬 음성 인식과 구조화 판단 지원
Apple 공식 신제품이 아니라 커뮤니티 구현으로, Mac 실험의 한계를 함께 봐야 합니다.
Survival LLM, 출처를 보여주는 오프라인 지식 도구
자료를 미리 내려받으면 인터넷 없이 검색하고 질문할 수 있지만 답변의 정확성은 별도 확인이 필요하다.
CorridorKey 2.0, 로컬 영상 키잉에 시간 정보 활용
로컬 처리와 실시간 처리는 다르며 장면과 GPU 메모리에 따른 검증이 필요하다.
Hugging Face가 로컬 AI용 WebGPU 커널 207개를 공개했습니다
브라우저 로컬 추론의 재사용 기반은 좋아졌지만 전체 모델 속도는 실제 기기와 입출력 비용까지 재야 합니다.
더 볼 글이 없습니다.