M선배님 논문 revision에서 쓸만한 최적화 관련 웍이 필요하다고 하셔서 2주 쯤 전부터 요새 참여하고 있는 미팅.. 기존에 하던 on device ai의 연장인듯 아닌듯.. 삽질을 여러 번 하고 있다..

• ramdisk 사용해서 io-bound한 상황을 없애고 이론상 얼마나 좋아질 수 있는지 확인해보기

  • tempfs 써서 했다가 혼남 → kernel parameter 사용하도록

  • 별개로 kernel/debug/tracing 사용해보기..

• threads 수, read_ahead size 조절해가며 성능 데이터 수집..

  • baseline으로 memory-bound 없는 경우 (120ms expected) 추가

  • io request 총량, 개수 정보도 포함

    • /proc/diskstat 확인해보시오.. man proc → /diskstat 독 확인

• ggml library 스터디