Akıllı telefonlar artık dijital beyinlerinin sadece bir kısmını kullanarak karmaşık mantık yürütebiliyor
Yeni nesil mobil yapay zeka, dijital mimarisinin yalnızca küçük bir kısmını seçerek kullanarak bulut düzeyinde akıl yürütme sağlıyor. Bu yöntem, karmaşık işlemler için gereken enerjiyi büyük ölçüde azaltıyor.
Google'ın Gemma 2 modeli, 'Uzmanlar Karışımı' (MoE) mimarisi sayesinde GPT-4 gibi devasa sistemlerin performansına akıllı telefonlarda ulaşabiliyor. Sistem, her veriyi tüm sinir ağı üzerinden işlemek yerine görevleri 8 uzman birime yönlendiriyor. Toplam 2 milyar parametreden her kelime birimi başına yalnızca 375 milyonunu etkinleştiriyor.