Jakarta, Komite.id – Penampilan Jensen Huang yang luar biasa di Computex Taipei 2024, karena menjadi the first global keynote NVIDIA selama 4 tahun semenjak Covid 19. Jensen mengatakan bahwa banyak produk yang ingin di luncurkan & diperkenalkan di Computex 2024 Taipei dan artikel ini adalah bagian kedua dari Keynote Jensen Huang di Computex 2024.
Sebelumnya Jensen berbicara tentang evolusi atau transformasi Data center menuju konsep Data Center is the Computer.
Karena konsep Hadoop, Big Data dan juga Data Centre semua adalah software defined (SWD) arsitektur, misalnya pada Hadoop penyimpanan data ada di storage unit yang mana, ditentukan oleh software bukan lagi manusia pemilik data tersebut, arena semuanya adalah SWD, sehingga engineer harus terus membangun software, library dan Apps yang semakin baik dan pintar.
Itulah sebabnya kita berada di era komputasi baru. Di setiap era komputasi, Anda dapat melakukan hal berbeda yang tidak mungkin dilakukan di era sebelumnya lebih efisien & efektif, demikian juga dengan AI evolusi.
Era komputasi khusus ini istimewa antara lain dalam hal :
- Mampu memahami informasi lebih dari sekedar teks & angka. Sekarang mereka sudah bisa memahami multimodalitas sehingga bisa berdampak pada setiap industri;
- Karena komputer tidak peduli bagaimana Anda memprogramnya, ia akan mencoba memahami apa yang Anda maksud, karena ia memiliki kemampuan LLM Jadi hambatan pemrogramannya sangat rendah. Kami telah menutup kesenjangan digital. Semua orang adalah seorang programmer sekarang. Anda hanya perlu mengatakan sesuatu kepada computer yang dilengkapi dengan LLM & Generatif AI..
- PC dapat melakukan hal luar biasa untuk masa depan dan untuk aplikasi apa pun di era sebelumnya. Inilah sebabnya mengapa begitu banyak API yang terhubung untuk mendengar dan di sana, juga browser aplikasi Windows, ppt, kata-katasetiap aplikasi yang ada akan menjadi lebih baik karena AI.
Era ini tidak membutuhkan aplikasi baru LLM ini sangat mudah digunakan, itulah sebabnya ia berkembang begitu cepat & menyentuh setiap industri.
NVIDIA GRACEHopper GH200
Tahun lalu dibicarakan processor nvidia yang terbaru, Nvidia GraceHopper GH200 Superchip sekarang pada tahap full production dengan hampir 200 Miliar transistors.
Accelerator Processor ACC chip pertama memiliki 600 GB Memory yang besar coherent sharing dataset agar tidak redundant, antara CPU & GPU berkomunikasi melalui high speed chip to chip link (900GBps). Jadi chip ini bukan lagi sekedar chip processor tapi sebuah super computer mikro lengkap dengan memory besar 600GB untuk memproses data set besar dengan super cepat. Menggunakan Apps Vector Database yang menggunakan token data vektor yang disimpan sehingga lebih mengerti data yang tersimpan dan penting untuk knowledge augmentasi dari LLM untuk menghindari halusinasi; Deep Learning Rekomendasi systems menjadikan sebuah AI factory on a chip; GraceHopper mampu melakukan AI LLM inference dengan 60 miliar parameter sangat besar, yang tidak dapat dilakukan dengan hanya CPU tercanggih saat ini.
Dari situs Alexnet, pada tahun 2012, sebanyak 62 Juta hingga 340 Miliar parameter yang dilatih pada 1,2 M gambar & 3.5 Triliun tokens, sehingga sekarang Gracehopper menjadi 5.000x lebih kuat dibandingkan dengan parameter Google PAM 340 Miliar sehingga dilatih untuk 3.000 x data.
Secara harfiah dalam waktu 10 tahun, masalah komputasi Pembelajaran Mendalam meningkat 5.000 kali lipat untuk perangkat lunak, 3 juta kali lipat untuk Dataset. Tidak ada bidang komputasi lain yang meningkat secepat ini. Jadi kami kadang-kadang mengejar Deep Learning tingkat lanjut
Gracehopper bakal memberikan kontribusi yang besar, namun 600 GB masih belum cukup dan akan terus berkembang.
Implementasi Gracehopper superchip pada Komputer sebagai Data Cnter. Menghubungkan 8 Gracehopper bersama sama dengan NVLink switch. 8 Gracehopper chip terhubung dengan 3 Switch tray in ke 8 Grace hopper pot. 8 Gracehopper pot ini terkoneksi pada 900 Ghps. Kemudian semua itu di hubungkan dengan 32 pot dengan switches yang berlapis lapis untuk membentuk 256 Gracehopper Super Chip Monster Computer untuk melakukan Deep Learning & LLM Apps, dengan fitur 144 TB shared GPU memory. Menghasilkan kinerja 1 ExaFLOPS yang digunakan pada aplikasi LLM paling kompleks seperti high-demand, algorithmic “recommender” engines & neural networks.
Nvidia bekerjasama dengan Google, Meta & Microsoft memanfaatkan monster DGX GH200 untuk future advance leading edge AI research.
Banyak negara mencoba mencapai processing 1 ExaFLOPS transformer engine dengan berbagai macam Super computer dan Quantum computing, yang sudah dicapai oleh 256 gracehopper supercomputer Nvidia untuk Deep Learning.
Bayangkan 144 TB memory yang terhubung ke semua GPU/CPU, bukan Cuma distributed shared memory sehingga 256 Grasshopper SuperChip dapat mengaksesnya realtime parallel.
Komputer super raksasa yang menggunakan chip super belalang sedang dalam produksi
Google, Meta & Microsoft akan menjadi perusahaan pertama di dunia yang memiliki akses ke komputer super raksasa ini.
Mereka akan melakukan penelitian eksploitatif pionir terdepan, yang merupakan last frontier AI saat ini kami tentu saja akan membangun sistem ini.
Kami akan berbagi informasi supercomputer ini dengan para Supplier Cloud Computing, agar mereka dapat melakukan integrasi kedalam network & infrastruktur mereka. Dan Nvidia juga akan memanfaatkan DGX GH200 One Giant GPU untuk riset internal NVIDIA.
1964 selain diluncurkan IBM S360, AT & T juga memperkenalkan sebuah telpun B & W layar gambar yang sangat kecil & tertinggal ukuran sekarang, yang dapat melakukan encoded & compressed digital gambar telekomunikasi dari satu telpun ke telpun yang lain melalui kabel twisted pair tembaga. Sampai hari ini video call, zoom menjadi sangat strategis, dan 65% internet trafik adalah video dan tetap menggunakan teknologi yang sama selama 60 Tahun. Kita akan melakukan disrupsi dengan memperkenalkan generative AI pada teknologi telekomunikasi gambar ini. Gracehopper memungkinkan semua server dalam jaringan mempunyai kapaitas AI. Bayangkan jika semua compression, streaming dan decompression kini dilakukan di Clouds memanfaatkan AI dan akan merevolusioner telekomunikasi didunia kedepan.
Masa depan wireless Video communication dengan 3D generated AI, maka avatar anda dapat berbicara yang satu Bahasa Rusia dan yang lain Bahasa Indonesia secara realtime ber komunikasi/ kolaborasi dengan setiap mobile phone didunia memanfaatkan AI universal translation ke system Telkom Clouds dunia. Gracehopper sangat cepat dapat berjalan diatas 5G stack & 5G core untuk Telecom network dan menjadi platform AI Clouds/ Data Center.
Semua data center dimasa depan menjadi intelligent & software defined, internet based, berbasis networking atau 5G communication. Luar biasa merevolusioner industry Telkom kedepan. AI Factory akan menggantikan tradisonal data center, clouds dan perusahaan Telkom tradisional ? Tradisional data center menggunakan tradisional PC akan di recycle dan engineered menjadi Gen AI Data Center, $1 Triliun Global DC Infra transisi menuju Accelerate Computing & Generative AI.
Siapkan industry Telco ?
Kemitraan dengan Softbank terkait generative AI & Software defined 5G stack untuk semua Softbank Data Center diseluruh dunia memperluas frontier dari AI, mentransformasi dari Generative AI menjadi advanced Gen AI. Begitu banyak aplikasi dibanyak area dari Scientific computing, Data Processing, LLM training, Genrative AI inference , clouds, video & graphics,
Mengumumkan NVIDIA MGX bekerja sama dengan banyak perusahaan computer manufaktur Taiwan antara lain Ingrasys (Foxconn), Supermicro, Gigabytes, Asus, Acer.
Next Phase of AI
AI membutuhkan digital twin atau digital representasi untuk dapat memasuki $50 Triliun industry berat manufaktur antara lain chip atau battery & kesehatan :
- Digitalization
Dimasa depan manusia dapat berbicara dengan robot yang mengerti Bahasa manusia untuk melakukan sesuatu atau animasi,dan robot revolusi akan terjadi dengan teknologi yang ktia miliki.
Namun bagaimana robot dapat mengetahui bahwa gerakan yang dihasilkannya didasarkan pada kenyataan fisik didunia nyata. Hal ini didasarkan pada fisika & sistem software yang memahami hukum fisika
Anda sudah melihat hal ini dengan chatGPT, sedangkan AI akan menggunakan Nvidea omniverse dalam sistem reinforced learning sebagai dasarnya.
Anda telah melihat ChatGPT melakukan ini menggunakan reinforced learning dengan masukan & komunikasi dengan manusia,
Nvidia dapat membantu membangun industry manufaktur Taiwan secara digital/ virutal atau Nvidia menyebutnya Omniverse terlebih dahulu sebelum menerapkan robot secara fisik
Stack AI Nvidia sangat rumit sehingga kami membangun Stack ini ke dalam layanan cloud Azure. Manusia dapat berinteraksi dengan omniverse. Di masa depan, manusia dapat berinteraksi dengan AI Generatif di Omniverse
Sebuah case study, perusahaan periklanan dunia, WPP berkolaborasi dengan Nvidia dalam omniverse & Gen AI. Integrasikan alat dari banyak mitra termasuk Adobe, untuk menghasilkan konten unik bagi pengguna berbeda untuk aplikasi iklan
Pabrik di masa depan akan didigitalkan untuk membuat digital twin nya. Pabrik tersebut akan menjadi robot dan didalam pabrik akan ada banyak robot.
Kami juga akan membuat autonomous robot yang dapat bergerak sendiri, memiliki kemampuan AI dan robotika.
Mengumumkan platform robot NVIDIA AISIC AImar kini tersedia sebagai desain referensi bagi siapa saja yang ingin membuat robot, seperti yang kami lakukan dengan HPC.
Nvidia membangun seluruh stack, sehingga Anda dapat memiliki pilihan sesuai kebutuhan misalnya chip, perangkat lunak dari Anda, sistem atau menggunakan perangkat lunak kami, menggunakan algoritma Anda sendiri atau milik kami, sehingga kami dapat membantu Anda melakukan ACC sesuai kebutuhan anda .
Di masa depan kita akan melakukan hal yang sama dengan robotika. Kami membangun seluruh stack robot dari atas ke bawah. Dari chip, algoritme, kami memiliki persepsi canggih tentang multi modalitas, sensor, pemetaan canggih, lokalisasi & perencanaan dan sistem pemetaan awan.
Semuanya telah diciptakan ISAAC AMR menyertakan chip yang dipasang ke komputer, Nvidia Nova Orange untuk referensi/cetak biru, pemetaan & simulasi untuk AMR.
Nova tidak dapat mengatakan bahwa itu tidak ada di lingkungan kenyataan. Karena semua sensor berfungsi, fisika berfungsi, ia dapat menavigasi & melokalkannya sendiri semuanya berbasis fisik.
Ini adalah masa depan robotika Omniverse & AI bekerja sama. Ekosistem TI yang kami hasilkan bernilai seperempat triliun dolar per tahun Ini adalah industri TI.
Untuk pertama kalinya kita memiliki kemampuan untuk memahami bahasa dunia fisik. Kita bisa memahami bahasa industri berat. Dan kami memiliki perangkat lunak & sistem perangkat lunak yang disebut omniverse yang memungkinkan kami melakukan simulasi & pengembangan, membangun dan mengoperasikan pabrik fisik, robot & aset kami secara digital.
Sejarah NVIDIA dan founder
Berawal dari produsen grafis PC, NVIDIA membantu bangun pasar game menjadi industri hiburan signifikan di dunia saat ini. Penemuan GPU oleh Nvidia 1999 memungkinkan pembuatan citra yang dapat diprogram secara real-time, menjadi standar grafik komputer modern, dan kemudian merevolusi komputasi paralel. Baru-baru ini, Deep Learning GPU memicu AI modern era komputasi berikutnya, dengan GPU yang bertindak sebagai otak komputer, robot, dan mobil tanpa pengemudi yang dapat memahami dan memahami dunia. Jensen Huang penerima penghargaan tertinggi Asosiasi Industri Semikonduktor; Medali Pendiri IEEE; dan gelar doktor kehormatan dari Universitas Nasional Chiao Tung Taiwan, Universitas Nasional Taiwan dan Universitas Negeri Oregon. Huang masuk daftar 100 orang paling berpengaruh di dunia versi majalah TIME 2021. 2019, Harvard Business Review peringkat No. 1 dalam daftar 100 CEO dengan kinerja terbaik di dunia.
