삼전 하이닉스 악재터졋네요
구글 리서치에서 LLM의 고질적인 메모리 병목 문제를 해결할 새로운 압축 알고리즘 'TurboQuant'를 공개했습니다.
모델 성능은 완벽히 유지되는데, 메모리 사용량은 6분의 1로 줄고 속도는 8배 빨라졌습니다.
https://research.google/blog/turboquant-redefining-ai-efficiency-with-extreme-compression/
진짜 기술이 어덯게 바뀔지 모르겟네요
이세돌ai시절만 해도. 메모리 반도체가 디박망중몰랐믄데
그대박도 오래못가겟네요
모델 성능은 완벽히 유지되는데, 메모리 사용량은 6분의 1로 줄고 속도는 8배 빨라졌습니다.
https://research.google/blog/turboquant-redefining-ai-efficiency-with-extreme-compression/
진짜 기술이 어덯게 바뀔지 모르겟네요
이세돌ai시절만 해도. 메모리 반도체가 디박망중몰랐믄데
그대박도 오래못가겟네요
사랑파
james2
daiki
주성치개새
하리하리
멀던
랙왕
afiguwl
코카콜라
술의눈


그래서 최대한 많은 공간 확보하려고 하는데 메모리 사용량 1/6로 줄어들면 6배 더 탑재를 할 겁니다.
지금도 더 많이 탑재를 못해서 안달인데요..
구글 주가가 그대로 인거 보면 획기적인 건 아닌 거 같아요
백과사전식으론 비정상의 정상화....
내 생각엔 오히려 현재 ai 주도권을 잡기 위해서
특허내고
그냥 자신들만 사용할 듯 싶은데
뉴스엔 반대로 기술 보급이 되면 더 많은 기업들이 더 많은 메모리를 사용하게 될거라고 이야기하더구만.