Spec sheet
InternLM2 5B — 4.5B Dense.
Benchmark scores
HumanEval47.6
Compatible GPUs
30 @ Q4_K_MNVIDIA Tesla C1080
4 GB · 102 GB/s
NVIDIA Tesla K10
4 GB · 160 GB/s
NVIDIA Tesla M4
4 GB · 88 GB/s
NVIDIA GeForce GTX 1050 Ti
4 GB · 112 GB/s
AMD Radeon Instinct MI8
4 GB · 512 GB/s
NVIDIA GeForce GTX 1650
4 GB · 128 GB/s
NVIDIA GeForce GTX 1650 SUPER
4 GB · 192 GB/s
AMD Radeon RX 5300 XT OEM
4 GB · 112 GB/s
AMD Radeon RX 5500 OEM
4 GB · 224 GB/s
AMD Radeon RX 5500 XT
4 GB · 224 GB/s
AMD Radeon RX 5500M
4 GB · 224 GB/s
NVIDIA GeForce GTX 1650 GDDR6
4 GB · 192 GB/s
NVIDIA GeForce GTX 1650 TU106
4 GB · 192 GB/s
NVIDIA GeForce GTX 1650 TU116
4 GB · 192 GB/s
NVIDIA GeForce GTX 1630
4 GB · 96 GB/s