Teknologi NPU mengapa sekarang ramai dan teknologi terobsesi


   Technology | 1 June 2024


Di era computer hanya dikenal CPU.
Generasi pertama CPU hanya CPU, tidak ada perangkat Math-co
Procesor sangat lambat karena proses berulang untuk sebuah tugas.
CPU akhirnya digabung menjadi unit proses tugas dan perhitungan algoritma.

Membantu program seperti arsitek mampu menampilkan bentuk 3D, walau tidak secara realtime.

GPU dan TPU, untuk akselerasi gambar.
Merubah gambar vektor menjadi gambar 2D menjadi 3D, render dan lainnya
Disini banyak perubahan, proses CPU dan Math Co yang dahulu lambat, dibantu dengan GPU.
Proses gambar 3D gaming, rancangan arsitek, desain akselerasi, render video dengan OpenCL, OpenGL, menjadi sangat cepat.
Semua sebagian proses diambil oleh GPU.

GPU memiliki jumlah CU, Arithmetic Logic Units (ALU) yang sangat banyak, bisa ratusan - ribuan unit.
Memproses kalkukasi secara paralel dalam jumlah besar.


Semakin canggih GPU, semakin cepat proses gambar bekerja, menyelesaikan gambar render 3D realtime, memproses transcode video atau encode video langsung ke GPU.
Konversi video MOV 1 jam FHD membutuhkan waktu sangat lama dengan CPU, dengan GPU dapat dipersingkat kurang dari 20% waktu dengan CPU.
Semakin canggih GPU untuk proses Transcode video, waktu yang diperlukan semakin sedikit.

Versi GPU modern ditempatkan Tensor, memiliki kemampuan setingkat Deep Learning, Machine Learning, dan tentu saja tidak terbatas untuk proses gambar.
Tapi tidak semua GPU sama, hanya beberapa procesor menempatkan fungsi Tensor (TPU).
TPU pada GPU dapat dimanfaatkan untuk proses tapi mengunakan sumber daya lebih sedikit.

Tensor dikembangkan pertama oleh Google.
Mempercepat sistem Machine Learning, di awal dapat meningkatkan kinerja dengan TPU antara 15-30 kali dibanding proses GPU dan CPU.
Berlanjut ke Nvidia dengan GPU yang menempatkan teknologi Tensor.

NPU - Neural Processing Unit.
NPU bertugas untuk menangani sebagian tugas
GPU ada di grafik, dan GPU dapat masuk ke dalam procesor.

NPU lebih dekat dengan fungsi GPU tapi fungsi khusus.
NPU saat ini mungkin tidak perlu diluar unit GPU dan CPU, jadi procesor tersebut ada di dalam perangka procesor atau GPU.

NPU digunakan untuk perhitungan matematis khusus untuk algoritma Machine Learning.
Tugas bekerja secara paralel, lalu request task dipecah menjadi tugas lebih kecil dan berjalan bersamaan.

Fungsi teknologi NPU

NPU dioptimalkan untuk komputasi paralel berbasis data, menjadikannya sangat efisien dalam memproses data multimedia besar seperti video dan gambar serta memproses data untuk jaringan saraf. NPU sangat mahir dalam menangani tugas-tugas terkait AI, seperti pengenalan suara, pengaburan latar belakang dalam panggilan video, dan proses pengeditan foto atau video seperti deteksi objek.
NPU adalah sirkuit terintegrasi tetapi berbeda dari ASIC tunggal.
Meskipun ASIC dirancang untuk tujuan tunggal, NPU menawarkan lebih banyak kompleksitas dan fleksibilitas, memenuhi beragam tuntutan komputasi jaringan.
Juga melalui pemrograman khusus dalam perangkat lunak atau perangkat keras, yang disesuaikan dengan kebutuhan unik komputasi jaringan saraf / Neural processing.

Jadi tugas NPU dirancang khusus untuk jaringan Neural Processing sendiri yang intens tanpa memanfaatkan proses sistem lain (dari GPU dan CPU).

Mengapa NPU. banyak perusahaan teknologi ribut dengan teknologi ini.
Semua berlomba lomba membuat NPU pada unit procesor

Procesor Intel, AMD, mulai menyiapkan procesor dengan dukungan NPU.
Nanti di Windows kita dapat melihat Task dengan nama NPU selain GPU dan Core. Demikian juga di Device Manager akan tampil seperti keterangan Intel Ai Boost

Intel Core NPU


Apple lebih dulu menempatkan NPU dibanding Android dan Windows.

Tahun 2024, procesor SnapdragonX Elite dan Plus akan siap dengan teknologi Windows berbasis Arm.
Disebut memiliki kemampuan NPU 45TOPS.
Procesor Snapdragon disebut mampu memproses Ai untuk transkipsi langsung.

Microsoft dan Intel menyebut AI PC, setidaknya kata tersebut muncul di akhir tahun 2023.

Microsoft menempatkan CoPilot+ berbasis Ai seperti Recall, karena ada chip NPU.
Di PC mungkin tidak bergantung dengan NPU, bila CPU notebook belum menyediakan NPU. Tetapi beberapa program yang membutuhkan NPU harus bekerja sangat lambat.

CPU dihitung dalam unit core dan clock speed. Menangani proses komplek, tapi relatif lambat
GPU dihitung dalam jumlah CU, jumlah unit sangat banyak dengan proses lebih sederhana.
Dan semua akan dihitung dalam total clock umum atau TeraFlop.

Kecepatan NPU di hitung dalam TOPS, atau Triliunan operasi per detik.
TOPS hanya persamaan dengan perhitungan matematika cepat dengan kecepatan dan akurasi neural processing.

Ide lain dengan GPNPU, dasarnya memasukan unit menjadi satu dengan GPU dan NPU.

NPU kemungkinan di integrasi ke CPU Utama seperti procesor Intel Core (2024).
AMD Ryzen 8040 juga demikian.

Tapi di sisi data center yang sangat besar, dimana memiliki industri lebih khusus.
NPU adalah unit procesor terpisah sepenuhnya pada motherboard, dan proses terpisah dari proses lain.
Layanan kelas ini membutuhkan proses sangat cepat untuk menangani proses Ai dan LM.

NPU vs GPU
Bila GPU untuk menangani tugas kecil tapi dengan core yang sangat banyak. Mengapa tidak dimanfaatkan untuk NPU.
GPU memiliki kemampuan komputasi paralel, tapi tidak semua GPU mampu menangani selain fungsi grafik.
GPU memerlukan sirkuit yang terintegrasi secara khusus, agar proses machine learning bekerja efektif.

Tensor Core, di Nvidia membuat GPU masih cocok untuk Machine Learning dan Ai.
Untuk kalkulasi sangat besar, NPU lebih tepat ditempatkan di luar GPU dan NPU. Setidaknya untuk teknologi yang ada saat ini.
Nvidia menempatkan Tensor di GPU setingkat Blackwell dan Hopper. Serta GPU yang mendukung CUDA dari arsitek 3,5 - 8.0 dan lebih tinggi.
Memasukan GPU Tensor kelas tersebut untuk computer sepertinya terlalu besar, juga dirancang dengan konsumsi power tinggi.

NPU di Windows
Microsoft menyebut beberapa fungsi tambahan di OS Windows seperti fitur Copilot dengan NPU
Unit pemrosesan saraf (NPU) suatu perangkat memiliki arsitektur yang mensimulasikan jaringan saraf otak.
Memproses data dalam jumlah besar secara paralel, melakukan triliunan operasi per detik.
Menggunakan lebih sedikit daya dan jauh lebih efisien dalam tugas-tugas AI dibandingkan CPU atau GPU.
Unggul dalam tugas-tugas AI dan membebaskan CPU dan GPU untuk tugas-tugas lainnya. Menggabungkan NPU dengan pembelajaran mesin memberi kombinasi terbaik.
Memberikan AI berkecepatan tinggi dan bandwidth tinggi secara real-time seperti menggunakan perintah suara, membuat gambar dengan cepat, dan banyak lagi.

Program / software yang di mendukung NPU sebagai contoh

Lightroom, untuk proses memperbesar gambar, select objek
Audacity, membersihkan noise suara, membantu generate tulisan menjadi suara
Magix Vegas, memperbesar ukuran video, proses pewarnaan video, masking

Program need NPU support on Windows

Jadi semua ada di software yang mendukung, dan NPU untuk membantu secara khusus pada program bekerja lebih cepat.

NPU di perangkat mobile.
Procesor smartphone sudah mengandalkan NPU, termasuk PC Mac.
Google dengan NPU dan Ai sejak tampil Pixel 2.
Huawei dan Asus menawarkan Mate 10 2017 dan Zenphone 5 2018.

NPU di tahun 2024 jauh lebih kuat dibanding generasi sebelumnya.
Inti NPU untuk meringkatkan beban perangkat menjalankan Ai dari CPU dan GPU
Memungkinkan penguna mengunakan Ai, dari generator Ai atau Chatbot tanpa memperlambat kinerja perangkat.

Smart TV
dengan konten lama dapat ditingkatkan dengan resolusi 4K.
Camera dengan NPU menghasilkan gambar stabil dan kualitas lebih baik, fokus otomatis, pengenal wajah dan lainnya.

Smart Home, juga mendapat sentuhan NPU
Untuk membantu mesin belajar pada perangkat seperti mengenal suara, atau informasi keamanan tanpa perlu diproses ke server cloud.

NPU bukan barang aneh
Seperti CPU ketika ditambah GPU, proses gambar 3D menjadi begitu cepat dari CU - Compute Unit
Dan tidak mungkin ditangani oleh procesor / CPU yang menangani tugas dengan Core yang sedikit.
Demikian juga NPU tidak menangani grafik 3D, tapi khusus menangani apa yang diperlukan oleh program, dan kinerja lebih efisien dibanding diberikan di CPU dan GPU.

NPU unit adalah awal dari kemampuan Ai dan Machine Learning di tingkat konsumen.
Tujuan mempercepat proses, mengurangi beban proses GPU dan CPU tradisional.

Teknologi merubah perangkat dengan chip pendukung baru.
Gen chip mampu memberikan charger dengan output besar sampai 200W dengan mempertahankan bentuk unit adaptor charger kecil dan efisien.
Layar smartphone dan monitor serta TV, dari 30hz naik ke 90Hz menjadi standar, dan diatas 120Hz. Merubah perangkat mobile menjadi gaming smartphone, TV dengan resolusi gambar FHD tetapi tetap baik dengan upscale ke 4K, serta Monitor dengan referesh kecepatan tinggi.
Program mengikuti baik smartphone dan computer, menambahkan banyak fitur Ai, tentu saja dukungan dari chip NPU saat ini.

Artikel Lain

Edit foto, sedikit perbaikan, upload Instagram. Muncul keterangan foto Made with AI. Itu membuat jengkel fotografer. Foto asli, hanya di edit sedikit dan sudah dilakukan sebelum Ai muncul. Bagaimana Instagram tahu foto asli dan foto Ai generatif.

Desain memory RAM CAMM2 menghilangkan kerumitan desain computer. Tidak lagi dipasang berdiri, tapi seperti di tanam pada board. Notebook, computer desktop sampai server computer dapat memanfaatkan teknologi memory CAMM2.

Juni 2024 perusahaan Adobe menjadi kontroversi. Salah satu pop Windows memberi keterangan bila Adobe dapat mengakses konten member. Pesan muncul di keterangan - Updated Terms of Use. Membuat fotografer, seniman penguna Adobe marah. Adobe memperjelas aturan, bukan untuk Ai.

Mediatek Kompanio 838 procesor ChromeOS, 8 core, dilengkapi NPU 650 untuk Ai, dan terintegrasi pengolah gambar Imagiq 7. Mengabungkan kekuatan baterai dan performa, menangani tayangan gambar AV1, dan dukungan dual layar 4K.

Silicon Motion membuat chip controller SM2322. Menangani storage SSD tipe TLC dan QLC di memory storage. Bentuk seperti Flash disk dan transfer sangat cepat, dengan kecepatan transfer 2GB/s. Diperlukan port USB 3.2 Gen 2x2.

Intel GPU Arc2 pertama dukungan VVC video. April 2024 Youtube pindah ke AV1 dan Android 12 update. Google memilih Libdav1d yang efisien untuk decode. Bila anda merasa tampilan 4K Youtube kok terasa enteng dan tampil mulus, mungkin itu format AV1. Tahun 2020 disiapkan H.266 VVC dan EVC video 4K, 8K tapi lisensi.

Teknologi 6G tidak lagi membawa jaringan selular. Tapi konekvitas ke perangkat yang membutuhkan wireless. Dari sistem IoT, industri, jaringan data selular, sampai medis. Ada yang menganggu di teknologi 6G, karena mengunakan frekuensi Thz, bukan lagi Mhz.

Apakah adaptor akan hilang. Sepertinya demikian, perusahaan Amber Solutions telah membuat chip yang dapat merubah langsung arus AC menjadi DC. Menghilangkan 50% komponen yang ada di dalam adaptor. Nantinya dapat terintegrasi di dalam perangkat elektronik power rendah.

Melihat benda yang sangat kecil seperti ukuran nanomikron tidak semudah melihat benda kecil dengan mikroskop biasa. Melihat bentuk nanomikron tidak dapat di lihat langsung bila objek terlalu kecil, karena tidak akan memantulkan cahaya. Gambar hanya di proyeksikan untuk ditampilkan ke layar dengan elektron..

Telepon satelit memiliki jangkauan yang tidak bisa dipenuhi oleh telepon biasa. Setidaknya ada 2 tipe jaringan telepon satelit. Dari sistem satelit orbit rendah, dan sistem GeoSnyc posisi satelit. Bentuk telepon satelit saat sudah diperkecil, yang mahal untuk koneksi internet atau menghubungkan ke opeator lain.



Youtube Obengplus


Trend