REDDIT / r/singularity
Ricursive Intelligence의 Ripple-65B LLM, 고성능 과시에도 로컬 실행 논란
본문 요약
Ricursive Intelligence가 650억 개 파라미터의 덴스 모델 Ripple-65B Preview를 출시했다. 이 모델은 12조 토큰으로 학습되고 1M 컨텍스트 길이를 지원하며, 에이전트 코딩 태스크에서 기존 대형 모델들을 능가하는 최신 최고 성능을 기록했다.
이 페이지는 Reddit 원문과 반응을 AI로 요약한 자료입니다. 아직 편집자 검수를 거치지 않았습니다. 중요한 내용은 원문에서 확인해 주세요. 요약·검수 원칙 →
Reddit 댓글 요약
로컬 실행 및 하드웨어
65B 모델의 로컬 실행 가능성과 4090 GPU, 맥북 프로/M3 Max 등 소비자 하드웨어에서의 성능에 대한 문의가 많았으며, 4비트 양자화 시 약 34GiB 필요, DGX Spark에서는 느릴 것이라는 우려도 제기되었다.
성능 및 모델 크기
65B 덴스 모델이 로컬 환경에서 매우 느릴 수 있다는 지적과 27B 모델과의 비교를 통해 실제 사용 체감을 논했으며, 특정 양자화 방식(NVFP4)도 언급되었다.
오픈웨이트 모델 철학
대형 오픈웨이트 모델의 실제 사용자층과 고가 하드웨어 요구가 오픈웨이트의 취지에 맞지 않는다는 의문이 제기되었고, 기업의 수익 모델과 로컬 실행 비용 효율성에 대한 논의도 있었다.
※ AI가 작성한 요약으로, 오류나 누락이 있을 수 있습니다. 정확한 내용은 Reddit 원문을 확인해 주세요.