삼전 하이닉스 악재터졋네요
구글 리서치에서 LLM의 고질적인 메모리 병목 문제를 해결할 새로운 압축 알고리즘 'TurboQuant'를 공개했습니다.
모델 성능은 완벽히 유지되는데, 메모리 사용량은 6분의 1로 줄고 속도는 8배 빨라졌습니다.
https://research.google/blog/turboquant-redefining-ai-efficiency-with-extreme-compression/
진짜 기술이 어덯게 바뀔지 모르겟네요
이세돌ai시절만 해도. 메모리 반도체가 디박망중몰랐믄데
그대박도 오래못가겟네요
모델 성능은 완벽히 유지되는데, 메모리 사용량은 6분의 1로 줄고 속도는 8배 빨라졌습니다.
https://research.google/blog/turboquant-redefining-ai-efficiency-with-extreme-compression/
진짜 기술이 어덯게 바뀔지 모르겟네요
이세돌ai시절만 해도. 메모리 반도체가 디박망중몰랐믄데
그대박도 오래못가겟네요
사랑파
로마인
바샤르
aaa1
세이쥬로
로드리퍼즈
아루
adio
아임사
오케이
누둘스
바하레퀴엠
호이짜요
이뽀나


그래서 최대한 많은 공간 확보하려고 하는데 메모리 사용량 1/6로 줄어들면 6배 더 탑재를 할 겁니다.
지금도 더 많이 탑재를 못해서 안달인데요..
구글 주가가 그대로 인거 보면 획기적인 건 아닌 거 같아요
백과사전식으론 비정상의 정상화....
내 생각엔 오히려 현재 ai 주도권을 잡기 위해서
특허내고
그냥 자신들만 사용할 듯 싶은데
뉴스엔 반대로 기술 보급이 되면 더 많은 기업들이 더 많은 메모리를 사용하게 될거라고 이야기하더구만.