Teknologi TSMC CoWos produksi GPU AI dan HPC diambil Nvidia dan AMD


   Technology | 4 August 2023


Mesin CoWoS TSMC hanya untuk Nvidia dan AMD Mei 2024
AMD dan Nvidia disebut mencadangkan kapasitas produksi TSMC untuk CoWos dalam 2 tahun kedepan.
Kedua perusahaan akan bersaing di bidang procesor Ai.

Industri Ai membutuhkan kemampuan Compute dan proses ada di chip Nvidia dan AMD.
TSMC akan mengunakan pengemasan chip dengan sistem CoWoS untuk GPU Nvidia Hopper, dan GPU Blackwell.
AMD akan memanfaatkan chip akselerasi MI300.

Produksi chip lain disebut SoIC (System on Integrated Chip) adalah generasi selanjutnya dari teknologi CoWoS.
Membuat sebuah chip dengan sistem tumpuk dan bandwidth besar.
Kapasitas produksi SoIC diperkirakan masih sekitar 5000 - 6000 unit, tapi di tahun 2025 diharapkan dapat mencapai 10.000 unit.

Perkiraan TSMC bertahan dengan Low-NA EUV Januari 2024
Intel mendapat mesin pencetak chip High-NA, untuk uji coba sebelum memasuki era 1,8nm
Mengapa TSMC yang lebih maju belum mengadopsi mesin High-NA.

Singkatnya biaya. Mesin High-NA lebih mahal dibanding sistem dual Low-NA, setidaknya untuk investasi awal.
TSMC menunda mesin generasi baru, agar produksi lebih murah. Walau mengorbankan produksi yang komplek, dan kepadatan transistor sampai 2-3nm.
Produksi High NA mengerakan dimensi kritis / CD yang lebih halus. Dampaknya pada keausan optik proyeksi mesin, itu biaya produksi.

Ada alasan TSMC bertahan di mesin lama, karena teknologi paling hemat untuk mesin pencetak chip ukuran nm.
Bayangkan bila Intel berhasil membuat chip 18A nanti, berapa biaya sebuah chip bila tidak di produksi masal.
TSMC mulai mengunakan mesin EUV dan produksi masal tahun 2019. Intel ingin terdepan dengan mesin chip High-NA.
TSMC baru menjadwalkan pengunaan High-NA di tahun 2030

TSMC target 3nm kapasitas 80% Desember 2023
Walau

Apple menjadi pelanggan tunggal untuk chip 3nm untuk produksi chip N3B.
Tetapi pesaing di procesor Smartphone seperti Qualcomm dan Mediatek hanya memesan chip 4nm yang lebih murah.
TSMC memperkirakan akan mendapat pesanan lebih besar untuk N3E chip.

TSMC menargetkan kapasitas produksi N3E sampai 80% dipertengahan 2024.
Pelanggan baru adalah Qualcomm, Mediatek dan lainnya, ikut masuk ke teknologi chip 3nm.
Qualcomm ingin Snapdragon 8 Gen4 dan Dimensity 9400 mengunakan kerapatan chip 3nm pada pertengahan 2024.

Produsen chip TSMC menyiapkan peralatan canggih untuk pengemasan chip Agustus 2023
Memenuhi produksi AMD GPU MI300 akhir 2023 dan produksi Nvidia yang ada saat ini.



Teknologi datacenter sudah banyak berubah.
Awal pengembangan untuk menyimpan data dengan banyak storge.

Supercomputer membutuhkan CPU dalam ribuan unit, untuk mempercepat proses kalkulasi.

Sekarang kebutuhan GPU Compute dan generasi procesor digunakan untuk aplikasi Ai dan tentu saja HPC.

HPC adalah High Performance Computing.
Ditujukan untuk proses paralel, memecahkan masalah yang komplek dengan begitu banyak proses dan kemampuan CPU / GPU bersamaan.

Supercomputer Oak Ridge ada di kelas HPC, mengandalkan kemampuan GPU dan CPU bersamaan.

Rancangan yang sama seperti kelas supercomputer, ditujukan untuk penelitian, rancang bangun, keuangan, simulasi, medis dan bidang penelitian lainnya.
Bahkan industri hiburan memanfaatkan proses computer kecepatan tinggi, seperti rendering 3D untuk film.

Sistem computer HPC diperluas dengan menambah hardware dalam meningkatkan kalkulasi lebih besar, dan lebih cepat.
Disisi lain kebutuhan chip sistem tersebut terkendala dengan produksi chip GPU generasi baru.

Di bidang Ai, ini juga membutuhkan GPU untuk akselerasi aplikasi.
Baik skala medium sampai layanan online skala lebih besar, dan banyak pengunaan dengan aplikasi berbeda lainnya.

Layanan ChatGPT memiliki 30 ribuan GPU Nvidia. Disana kita bisa bertanya jawab apa saja, dan jawabannya relatif tepat dengan apa yang ditanyakan.
Mengunakan Nvidia A100, satu GPU yang dirancang khusus untuk Ai dengan tensor core, memerlukan power hingga 500W.

Kebutuhan GPU meningkat, tapi darimana pabrik pembuatnya.

 TSMC, sebagai pabrik paling canggih membuat chip Nvidia, AMD, Intel, Qualcomm, dan lainnya.

TSMC produsen chip mempertimbangkan perlu mendukung produksi, melihat melonjaknya kebutuhan produksi GPU dari Nvidia dan AMD.



TSMC baru baru ini memesan peralatan tambahan untuk pengemasan chip
Untuk mempercepat produksi chip CoWos - Chip on wafer on subtrate.

Tentu investasi mesin produksi CoWos untuk menambah kapasitas produksi serta pendapatan TSMC sendiri.

Produk TSMC CoWos saat ini separuh untuk produksi Nvidia.

Mesin tambahan nanti dapat membantu kebutuhan chip AMD M1300 yang dilaporkan tiba akhir 2023.

Saat ini TSMC mengalami kekurangan kapasitas produksi dari jalur CoWos.
Bila perangkat mesin untuk CoWos ditambah, pabrik dapat mempercepat produksi 50% lebih banyak.

Atau diperkirakan kebutuhan chip AMD compute generasi berikutnya dapat mencapai 50% dari pengiriman chip CoWos Nvidia.

Saat ini Nvidia masih memiliki 90% pasar GPU dengan dukungan CUDA untuk kebutuhan kalkulasi Ai dan HPC.

Mesin yang dipesan TSMC termasuk mesin produsen Apic Yamada, Disco, Gudeng Precision Industrial, dan Scientech.
Tapi peralatan tersebut memiliki antrian 6 bulan untuk dikirim.

Selain produk GPU AMD dan Nvidia, produk chip untuk Amazon, Broadcom, dan Xilinx menggunakan kemasan CoWoS di datacenter.

Apa yang dimaksud CoWos
Generasi chip baru tidak lagi sebuah silikon atau lempeng chip tunggal. Dibawah diberikan pin socket, dengan epoxy dan tutup aluminium.

Generasi chip sekarang, disebut Chiplet yang sederhana dengan 2 chip berbeda dan rancangan Stack lebih komplek.

Chip digabung dengan 2 keping chip terpisah atau lebih, baik berbeda proses produksi misal kerapatan nanometer, atau dibuat sistem tumpuk untuk menambah kemampuan / memperbesar chip.

2 unit chip berbeda CPU + GPU yang dibuat terpisah, disatukan ketika menjadi chip.



Ryzen mengunakan 2 keping chip terpisah dan dikemas ke dalam 1 CPU.
Intel mengunakan cara yang sama, dimana GPU dari TSMC, tapi CPU di produksi Intel. Kedua chip ada di dalam satu procesor.

Teknologi NAND chip mengunakan prinsip desain seperti chip stack.
Chip NAND diproduksi masing masing produsen seperti Xiaoxia, Hynix, Samsung, Micron, dan lainnya.

Satu yang baru adalah memory HBM untuk GPU.
Memory HBM dapat ditempatkan dengan sistem tumpuk, agar kinerja antara chip semakin dekat dan mampu menangani kecepatan transfer tinggi termasuk memory HBM kecepatan tinggi.

Disini yang masalah, GPU untuk akselerasi compute mengunakan beberapa chip terpisah.

Seluruhnya masuk di dalam GPU dan ditumpuk dan saling terkoneksi.
Disana diperlukan mesin pengemasan untuk menyatukan seluruh komponen.

TSMC mengunakan mesin untuk produksi CoWos, direncanakan untuk produksi chip AMD chiplet Instinct MI250 dan Mi300.
Chip digabung dengan memory HBM untuk menghitung area solusi.

Teknologi CoWos chip kemasan chip 3D
(Ilustrasi kemasan chip sistem tumpuk)

Tanpa kemasan chip CoWos, sebuah chip tidak mungkin dibuat dengan kebutuhan sekarang.
Chip AMD M1 dan Nvidia mengandalkan memory HBM pada chip compute di atas GPU.
Dimana chip memory HBM berada diatas chip GPU.

Dengan mesin baru, kapasitas produksi tipe chip CoWos dapat ditingkatkan dari 8.000 wafer ke 11.000 wafer perbulan di akhir tahun 2023.
Tahap kedua meningkat lagi di tahun 2024 dengan kapasitas 14.500 sampai 16.600 wafer dan sudah 2x lipat.

Bahkan ada kabar Nvidia membutuhkan kapasitas CoWos sampai 20.000 wafer perbulan di tahun 2024. Itu katanya, mengingat tren Ai sedang booming, dan banyak bidang usaha membutuhkan GPU.



Pabrik TSMC menambah kapasitas produksi CoWos sesuai jadwal sampai tahun 2024.
AMD sendiri sudah menjadwal peluncuran GPU Instinct seri MI3000 pada akhir tahun 2024 dan produksi ada di pabrik TSMC.

Walau nama AMD sempat naik di bursa, ketika mengumumkan APU dan GPU yang katanya dibutuhkan sangat tinggi di pasar global.
Pasar merespon kurang baik dan harga saham AMD turun, ada keraguan kebutuhan chip AI, atau dari sisi produsen chip saja yang terlalu optimis melihat permintaan GPU.

Itulah salah satu kebutuhan chip dengan pengembangan aplikasi.
Seperti yang sering disebutkan, Ai membutuhkan proses dengan GPU sangat tinggi.
Banyak perusahaan mulai menyiapkan hardware untuk layanan mereka, atau penelitian internal.
Dan kebutuhan chip GPU terus meningkat.

Intel janji membanjiri Arc dengan harga VGA murah untuk bersaing dengan Nvidia dan AMD. Nyatanya hanya sedikit lebih murah.
Nyatanya di awal penjualan, 3 produsen besar MSI, Gigabyte, Asus tidak tertarik membuat VGA Intel Arc. Karena ragu kemampuan Intel mengelola driver.
Walau sekarang Intel terus memperbaiki driver, bahkan menyiapkan Intel BattleMage.
Harga VGA Intel vs Performa dengan produsen lain ?

BBM di awal peluncuran eksklusif di pasar untuk smartphone Blackberry.
Perlahan surut dan hilang dalam beberapa tahun, berubah dengan teknologi lain dari Windows Phone, iPhone dan Android Phone.
Demikian juga Windows Phone, perlahan hilang sampai dihentikan Microsoft.

Android dan iPhone tetap ada, tapi BBM sudah kalah favorit dengan Whatsapp.
Apa lagi yang akan berubah nanti.

Artikel Lain

Samsung QLC 290 layer jadi diproduksi target 16TB SSD. SK Hynix kembangkan NAND 321 layer, dengan 1 chip kapasitas 1TB. Generasi saat ini menampung 512GB. Kioxia dan WD BiCS 3D NAND Gen8 218 layer. SK Hynix Gen8 300 layer, lebih murah setingkat 2400MT/s.

3 controller Maxio MAP1803, Maxio MAP1806, Maxio MAP1802 untuk NVMe. Seri pertama untuk SSD NVMe dengan PCIe 5.0, dari kelas enterprise dan client. Chip 3D NAND 3200MT/s dan satu chip terbaru untuk 4800MT/s.



Flash QLC 280 layer Samsung mendukung SSD M.2 16 TB. Chip Samsung QLC V9 memiliki kelebihan kapasitas chip 50% lebih banyak dibanding generasi QLC sebelumnya. Dirancang dengan 280 layer, sedangkan TLC saat ini mengunakan 232 layer.

Intel telah menerima mesin pencetak chip NA High EUV. Berbeda dengan mesin NA Low yang sekarang digunakan oleh TSMC. Intel mengejar ketertinggalan untuk procesor kerapatan tinggi. Tapi baru awal, karena mesin pertama akan digunakan untuk penelitian.

Umum kita melihat smartphone high end dengan proceor high end. Tahun 2024 strategi Qualcomm dan Mediatek berubah, procesor premium akan dipasang ke smartphone kelas menengah.

AMD mengajukan paten, mengambarkan desain chip GPU teknologi chiplet. Chip VGA AMD dapat dibuat dengan chip terpisah sebelum dikemas menjadi sebuah GPU. Kemungkinan teknologi chiplet tersebut disiapkan untuk produksi tahun 2025.

Seperti apa teknologi procesor notebook Meteor Lake dengan Core Ultra. Tidak 2 cluster seperti smartphone, tapi 3 cluster untuk procesor mobile notebook. Kinerja core terpisah berdasarkan fungsi. GPU tidak lagi untuk display, Intel memasukan iGPU Arc setingkat desktop.



Mediatek Dimensity 8250 mendukung WIFI 6e, merekam video 4K 60fps, display 180Hz. Dimensity 6200 sedikit perbaikan dari seri sebelumnya. Procesor Dimensity 8300 posisi pas dan lengkap di tengah. Daftar procesor Mediatek Dimensity.

Karyawan di Adobe menyatakan keprihatinan dengan kemajuan perusahaan dan kecerdasan buatan (AI). Khususnya teknologi generator teks-ke-gambar Firefly. Bila software lebih sudah dapat digunakan untuk pemula, pekerjaan kalangan profesional semakin berkurang. Lalu siapa yang membeli software Adobe, dan dampak ke karyawan.

Era digital membuat uang kertas barang usang. Transaksi uang tunai bagi penjualan di toko hanya membebankan waktu karyawan. Toko retail dan makanan menyukai menerima uang digital. Di China perusahaan pembayaran digital harus bermitra dengan bank lokal. Australia mulai kurangi transaksi tunai di bank

Layar eink telah dibuat untuk monitor, tapi warna hitam atau model berwarna. Perkembangan eink ternyata sudah cukup jauh. Banyak aplikasi dengan layar eink, seperti disain buku digital, monitor. Dasung Paperlike Color monitor 25 inci resolusi 3K

Pilih DDR5 karena murah dan lebih cepat. Samsung membawa teknologi DDR5 memory DDR5-8000 kapasitas 48GB permodul. Teknologi saat ini memberi disain chip tumpuk atau lapisan. 2023 RAM PC dapat terpasang sampai 192GB 4 modul RAM untuk DDR5, AMD pertama, motherboard Intel menyusul

Smartphone biasa dapat terhubung ke satelit. Setelah modem Qualcomm X65 dibuat untuk mengunakan frekuensi n53 di spektrum satelit. Sementara untuk mengirim pesan singkat, atau SOS. Jadwal berubah setelah Qualcomm tidak ingin sistem ekslusif dari Iridum, mungkin baru tampil tahun 2024

Supercomputer Frontier nomor 1 dengan 600 ribu core. Jepang Fugaku masuk rangking 2 bulan Juni 2020 kecepatan 415 PFlops. Amerika akan memiliki supercomputer 2 supercomputer paling cepat tahun 2021.Disusul China memiliki supercomputer terbanyak di dunia dan 2 mencapai kecepatan ExaFlops.  Juni 2018, posisi nomor 1 super computer adalah Summit.



Apakah adaptor akan hilang. Sepertinya demikian, perusahaan Amber Solutions telah membuat chip yang dapat merubah langsung arus AC menjadi DC. Menghilangkan 50% komponen yang ada di dalam adaptor. Nantinya dapat terintegrasi di dalam perangkat elektronik power rendah.

Supercomputer Selene hanya membutuhkan waktu 1 bulan. Nvidia mengerjakan dengan cara modular, dan sistem pendingin yang lebih sederhana. Semua unit modul yang disebut SuperPod dibuat seragam, memudahkan instalasi serta pengawasan dengan robot khusus.

Apa yang menarik dari internet di China, salah satu minim jalur internet untuk keluar negeri. Uniknya sistem jaringan Intranet raksasaChina  tersebut mampu berdiri sendiri dan dirancang berbeda dari jaringan internet di seluruh negara. Seandainya ada serangan dari luar sampai blokade internet global. Sebagian besar dengan kontrol ketat bagi penguna dalam negeri.

Hynix dikabarkan telah mengirim chip 1TB Quadruple Level Cell Storage atau QLC-1 ke perushaan SSD. Hynix adalah perusahaan pembuat micro chip, dimana chip akan digunakan oleh perusahaan lain sebagai produk. SK Hynix juga mengembangkan teknologi perangkat lunak algoritma bersama controller SSD.

Pertama kali manusia membuat roket pada tahun 1926. Hampir satu abad tidak berubah. Masih mengunakan bahan bakar padat atau cair. Biaya pengiriman ke ruang angkasa membutuhan biaya 10.000 dollar / kg. Beberapa konsep dan disain mulai muncul. Walau biayanya masih sangat mahal

Perbedaan procesor PC vs procesor smartphone. Keduanya berbeda, khusus dalam tugas menangani pekerjaan dan kebutuhan. Satu dirancang untuk hemat power, yang lain untuk kalkulasi sangat komplek. Mungkin suatu hari kemampuan CPU desktop PC akan dicapai procesor smartphone.

Satu gedung misterius di Inggris dimiliki sebuah JISC dimana membantu menghubungkan institusi pendidikan. Spencer menunjukan di dalam data center, umumnya hanya petugas saja yang boleh masuk. Ruang computer atau pusat data center disana hanya menangani computer untuk perguruan tinggi dari data biasa sampai penelitian medis



Youtube Obengplus

Trend