MEMORY INDUSTRY INTELLIGENCE
주장
26636건 공개자료 기반 개인 관찰 기록
| 기록 | 상태·범위 | 수정일·발행일 | |
|---|---|---|---|
| E8 격자 벡터 양자화가 처리량을 동등하게 유지하면서 바이트당 품질을 개선하며, 구조적 키 양자화가 KV 압축 스택에 유용한 기본 요소임을 시사한다. | 승인분석가 해석 | 2026.10.20 06:26 | |
| 전체 혼란도 평가에서 E8은 모델-데이터셋-문맥 설정의 80%에서 스칼라 k3v2보다 개선되었다. | 승인연구 결과 | 2026.10.20 06:26 | |
| 다섯 개 LLM 계열에서 E8 k2v2 접근법은 약 6배 KV 압축을 제공하며 스칼라 k3v2보다 약 20% 더 작다. | 승인연구 결과 | 2026.10.20 06:26 | |
| 어텐션 계산 중 명시적 코드북 역양자화를 피하는 표 기반 비대칭 스코어링 알고리즘을 적용해 스칼라 기준선과 디코드 처리량 동등성을 유지한다. | 승인연구 결과 | 2026.10.20 06:26 | |
| 구조적 벡터 양자화는 인접 차원 간 상관관계를 활용해 동일 키 페이로드 속도에서 독립 스칼라 양자화보다 높은 신호 대 양자화 잡음비를 달성한다. | 승인연구 결과 | 2026.10.20 06:26 | |
| E8 격자 기반 벡터 양자화를 KV 키에 적용한 균일 저비트 k2v2 구성이 기준선에 가까운 품질을 보존할 수 있음을 보였다. | 승인연구 결과 | 2026.10.20 06:26 | |
| 현재 스칼라 양자화 방법은 2비트 정밀도에서 성능 불안정이 있거나 3비트 키가 필요하다. | 승인확인 사실 | 2026.10.20 06:26 | |
| KV 캐시 압축은 메모리 제약 아래 장문맥 LLM 서빙에 필수적이다. | 승인확인 사실 | 2026.10.20 06:26 | |
| 양산·상용 채택·동료 심사 여부는 입력에서 확인되지 않는다. | 승인보도·미확인 | 2026.10.20 06:25 | |
| 트리톤 기반 GPU 커널과 양자화 캐시를 사용해 어텐션 모듈에서 최대 2.7배, 종단 간 디코딩 처리량에서 최대 3.3배 속도 향상을 제공한다고 주장한다. | 승인연구 결과 | 2026.10.20 06:25 | |
| 세 개의 대형 언어 모델과 여러 벤치마크에서 평가되었으며, 최대 70% 저랭크 KV 캐시 압축을 달성하고 LongBench에서 최강 기준선을 최대 23.3점 앞선다고 주장한다. | 승인연구 결과 | 2026.10.20 06:25 | |
| 실험이 공격적인 압축에서도 향상된 모델 품질과 유사한 정확도에서 증가된 디코딩 처리량을 보여준다고 주장한다. | 승인연구 결과 | 2026.10.20 06:25 | |
| 학습된 전역 랭크 할당기가 훈련 중 미분 가능한 소프트 선택을, 배포 시 하드 선택을 사용해 사용자 지정 구성 요소 예산을 충족한다고 설명한다. | 승인연구 결과 | 2026.10.20 06:25 | |
| 키 측 목표가 원시 키나 소프트맥스 이전 로짓이 아니라 어텐션 분포를 대상으로 하며, 닫힌 형태의 저랭크 해를 갖는 이차 대리 목표를 도출한다고 주장한다. | 승인연구 결과 | 2026.10.20 06:25 | |
| BELT라는 저랭크 KV 캐시 압축 프레임워크를 제안한다. | 승인연구 결과 | 2026.10.20 06:25 | |
| 장문맥 추론에서 키-값(KV) 캐시가 대형 언어 모델의 주요 메모리 병목이라는 가정을 제시한다. | 승인사용자 가정 | 2026.10.20 06:25 | |
| 코드와 모델 가중치는 공개 저장소에서 이용 가능하다. | 승인확인 사실 | 2026.10.20 06:25 | |
| 세 개의 독립적 미세조정 시드에서 LIBERO 평균 성공률이 1.08%포인트 향상되었고 LIBERO-Plus와 실제 벤치마크에서도 이득이 유지되었다고 보고한다. | 승인연구 결과 | 2026.10.20 06:25 | |
| MambaAct는 10배 더 작은 행동 전문가를 사용하고 LIBERO에서 플로 매칭 디노이징 지연을 64.8%, 실제 배포에서 58.8% 줄였다고 보고한다. | 승인연구 결과 | 2026.10.20 06:25 | |
| MambaAct는 경량 문맥 압축기로 VLM 접두 토큰을 압축 조건화 신호로 매핑해 각 Mamba 행동 블록을 게이트하고 변조한다. | 승인회사 계획 | 2026.10.20 06:25 | |
| Mamba는 잡음이 있는 연속 행동 시퀀스 전반의 의존성을 모델링하는 행동 믹서 역할을 한다. | 승인회사 계획 | 2026.10.20 06:25 | |
| MambaAct는 π0.5의 사전학습된 시각-언어 접두 인코더를 유지하고 트랜스포머 기반 행동 전문가를 소형 Mamba 기반 행동 전문가로 대체한다. | 승인회사 계획 | 2026.10.20 06:25 | |
| π0.5와 같은 플로 매칭 VLA에서는 반복적 디노이징 동안 행동 전문가가 반복 평가되어 한계가 특히 두드러진다. | 승인확인 사실 | 2026.10.20 06:25 | |
| 시각-언어-행동(VLA) 모델은 범용 로봇 조작에 강한 가능성을 보였지만 추론 비용이 실시간 제어의 주요 병목이다. | 승인확인 사실 | 2026.10.20 06:25 | |
| 산출물은 공개 저장소에서 이용할 수 있으며 공개 HBF 장치 데이터가 나오는 대로 추적할 예정이다. | 승인회사 계획 | 2026.10.20 06:25 |