Intel Arc Pro B70

Intel baru saja merilis slide yang membandingkan GPU workstation Intel Arc Pro B70 dengan Nvidia RTX 4000 Pro, di mana kartu dari Intel ini diklaim memiliki context window hingga 2,2 kali lebih besar berkat kapasitas VRAM yang 33% lebih tinggi (32 GB vs 24 GB), sehingga mampu memberikan peningkatan performa hingga 2x tokens per dollar serta respons hingga 6,2 kali lebih cepat dalam skenario multi-agent atau multi-user; meskipun Intel awalnya tidak menyertakan detail performa saat peluncuran GPU Intel Arc Pro B65 dan B70, mereka kemudian merilis grafik perbandingan dengan GPU Nvidia yang memang sudah beberapa tahun beredar, namun tetap dianggap relevan karena harga B70 yang mulai dari $949 dibandingkan sekitar $1.800 untuk RTX 4000 Pro, dengan keunggulan tambahan pada kapasitas VRAM meskipun menggunakan GDDR6 19 Gbps dengan bandwidth 608 GB/s; dalam pengujian, B70 mampu menangani context hingga 93 ribu token dibandingkan batas sekitar 42 ribu token pada RTX 4000 Pro saat menjalankan model Llama 3.1 8B BF16, serta memberikan peningkatan throughput hingga 85% pada workload multi-user menggunakan model Ministral Instruct 2410 8B di Linux, ditambah waktu respons awal (time to first token) yang hingga 6,2 kali lebih cepat berkat optimasi oneAPI dan software stack milik Intel, sementara peningkatan performa ini juga diklaim tetap konsisten dalam konfigurasi multi-GPU hingga memberikan efisiensi dua kali lipat dalam hal tokens per dollar, walaupun sayangnya tidak ada detail performa maupun harga untuk model B65, serta masih belum jelas apakah Intel akan membuka peluang bagi partner AIB untuk merilis versi gaming dengan VRAM lebih kecil yang tentunya juga membutuhkan peningkatan pada driver grafis.