Microsoft mengumumkan model bahasa kecil (SLM) yang disebut Phi-Silica pada konferensi pengembang Build di Seattle. itu VentureBeat melaporkan. Phi-Silica akan diintegrasikan ke semua PC Copilot+ saat memasuki pasar pada Juni 2024.
Model bahasa lokal memberikan keuntungan bahwa data yang akan diproses tetap berada di perangkat. Hal ini bertujuan untuk menghilangkan kekhawatiran perlindungan data dan memungkinkan penggunaan offline.
Menurut Microsoft, Phi-Silica memberikan kecepatan respons tinggi dengan hanya mengonsumsi daya 1,5 watt. Desain ini memastikan bahwa model tidak membebani sumber daya komputer secara berlebihan, sehingga CPU dan GPU dapat fokus pada penghitungan lainnya. Selain itu, pembuatan token model memanfaatkan cache NPU dan berjalan pada CPU, menghasilkan sekitar 27 token per detik.
Sebuah langkah penting dalam penerapan kecerdasan buatan lokal
Seorang juru bicara Microsoft mengkonfirmasi: “Apa yang membuat Phi-Silica istimewa adalah bahwa ini adalah model bahasa pertama yang diterapkan secara asli untuk Windows. Dioptimalkan untuk berjalan pada NPU PC Copilot+, ia memberikan inferensi asli yang sangat cepat ke perangkat Anda.”
Phi-Silica bergabung dengan jajaran varian model Phi-3 Microsoft, yang meliputi Phi-3-Mini (3,8 miliar parameter), Phi-3-Small (7 miliar parameter), Phi-3-Medium (14 miliar parameter) dan Phi – 3-Visibilitas (4,2 miliar parameter). Berkat ukurannya yang kompak dan performa yang optimal, Phi-Silica disebut mampu meningkatkan kemampuan komputer Copilot+ secara signifikan.
More Stories
Intel dilaporkan ingin menghadapi Strix Halo AMD dengan GPU raksasanya sendiri di prosesornya
Pembaruan BIOS: Penyerang dapat menonaktifkan Boot Aman pada laptop Alienware
Hari khusus perempuan di Oberhausen