OPINI: Melampaui Pusat Data, Mengapa Komputasi AI di Indonesia Harus Terdistribusi?

Bendera6.

Di Indonesia, AI berkembang pesat karena semakin banyak organisasi dalam logistik, sumber daya manusia, pendidikan, keselamatan jaringan informasi dan lainnya memiliki aplikasi AI dalam kegiatan dan inovasi sehari -hari.

Sama seperti revolusi industri sebelumnya yang dikendalikan oleh kekuatan uap, air dan listrik, kebangkitan era AI ditandai oleh kekuatan komputasi yang meluas yang menyimpan dan memproses informasi.

Presentasi AI di mana saja tergantung pada ketersediaan dan efisiensi daya perhitungan. Sangat penting untuk memastikan bahwa jaringan infrastruktur perhitungan tersedia.

Tidak dipertanyakan, pusat informasi adalah hati atau inti dari revolusi AI. Aplikasi AI generatif (gen AI), berdasarkan model bahasa besar (LLM), membutuhkan sejumlah besar pelatihan informasi.

Pemrosesan intensif ini membutuhkan infrastruktur pemrosesan data berkinerja tinggi dan tinggi, yang terdiri dari ratusan ribu penanganan pusat (CPU), penanganan grafis (GPU), akselerator dan jaringan.

Indonesia memiliki dua kapasitas kapasitas terbesar di Asia Tenggara, dan rencana tersebut akan meningkatkan kapasitas 270 %.

Meskipun sangat penting, pusat data saja tidak dapat memenuhi persyaratan kehadiran di mana -mana atau prevalensi rendah dan latenitas yang dibutuhkan oleh AI, serta tidak realistis jika kita bergantung pada bendungan untuk memelihara dan mendistribusikan pasokan air satu negara.

Era AI membutuhkan daya perhitungan data tepi, PC dan peralatan yang disediakan catu daya, yang memiliki tiga alasan utama: pertama, ada ekonomi: biaya yang dikeluarkan melalui semua pusat informasi terkait AI atau cloud bisa sangat mahal. Apakah itu dengan memilikinya, menyewa pusat data, atau mengandalkan pemesanan untuk cloud; Investasi, operasi, dan kompleksitas dapat berada di luar jangkauan banyak organisasi. Yang kedua adalah jarak fisik: pengiriman informasi bergantian antara lokasi di mana data diproduksi dan pusat data memperlambat banyak hal, sehingga tidak ideal untuk aplikasi yang sensitif waktu seperti kendaraan otonom. Akhirnya, peraturan yang berlaku: Tidak semua organisasi atau negara setuju untuk menyimpan informasi mereka di luar organisasi atau negara karena masalah keselamatan. Di Indonesia, misalnya, setiap penyedia sistem elektronik harus mengelola, memproses, dan menyimpan sistem dan informasi elektronik di Indonesia.

Oleh karena itu, pemrosesan data AI harus didistribusikan di lokasi dan perangkat yang berbeda menggunakan sumber daya perhitungan yang berbeda untuk kasus AI yang berbeda. Ketika pemrosesan data menjadi lebih kuat dan lebih efisien, mengapa model bahasa yang lebih kecil harus meningkat di pusat data atau cloud jika Anda dapat melakukannya langsung di komputer Anda?

 

PC saat ini berada di titik balik dengan kehadiran AI PC. Kombinasi CPU, GPU dan unit pemrosesan saraf (NPU) – Produktivitas, kreativitas, game dan kombinasi lainnya sekarang dapat ditingkatkan secara lokal dengan AI dengan efisiensi yang luar biasa.

Jadi bayangkan bagaimana beberapa baris instruksi di PowerPoint dapat membantu membuat presentasi dengan visi yang luar biasa hanya dalam beberapa detik.

Beberapa orang mungkin mengatakan bahwa mereka telah membuat browser ini di laptop yang berusia tiga tahun. Mungkin saja, tetapi pemrosesan komputer yang lebih tua memakan waktu lebih lama, mengkonsumsi energi yang lebih tinggi, biaya yang lebih tinggi mengirim bolak -balik antara cloud dan PC, dan ini rumit ketika memproses informasi sensitif yang tidak dapat keluar dari lokasi atau negara Anda.

Masalah -masalah ini menjadi lebih besar di lingkungan bisnis. Semakin banyak karyawan menggunakan aplikasi AI dalam pekerjaan sehari -hari mereka; Semakin banyak perusahaan perlu melatih atau melengkapi model AI mereka dengan informasi kepemilikan; Dan memperhatikan bahwa banyak perangkat lunak perusahaan, seperti aplikasi manajemen basis data, memiliki model lisensi yang membebankan biaya perusahaan dari inti perusahaan di cloud untuk menyelesaikan aplikasi.

Komputer AI memungkinkan perangkat ini mengoptimalkan jumlah volume kerja AI untuk penggunaan sumber daya perangkat keras yang lebih baik.

Bayangkan seberapa cepat dan lebih biaya -GEGRECTIF jika perusahaan dapat menyelesaikan banyak aplikasi AI secara langsung di komputer karyawan tanpa harus membayar untuk layanan cloud. Mengurangi biaya operasional, meningkatkan efisiensi dan produktivitas terkadang dapat menghasilkan manfaat bisnis yang signifikan.

Adalah ‘Edge’ di era AI

Selain pusat informasi dan AI PC, semakin banyak AI bergerak ke “tepi”. The Edge meliputi penerapan Internet (IoT), kendaraan otonom dan peralatan ke kota -kota cerdas yang melengkapi pengalaman sehari -hari AI.

Perhitungan tepi membutuhkan pemrosesan data “sekitar” atau di tepi jaringan yang lebih dekat ke lokasi di mana data diproduksi, alih -alih mempercayai pusat data pusat.

Kebutuhan untuk pemrosesan data tepi sangat penting selama era AI. Pertama -tama, ini memungkinkan untuk sesuatu yang sangat penting dalam waktu nyata ketika suatu keputusan dapat berdampak pada keselamatan, seperti otomatisasi industri dalam beberapa detik.

Bagi yang lain, pemrosesan data mengurangi jumlah informasi yang dikirim secara lokal, yang mengurangi “kemacetan” jaringan, memotong biaya data dan meningkatkan perlindungan dengan meminimalkan paparan sensitif selama transmisi.

Akhirnya, ketika koneksi internet terganggu, komputasi tepi memastikan bahwa aplikasi penting dapat terus beroperasi sangat vital bagi industri perawatan kesehatan.

Kasus AI menggunakan model pembelajaran mesin dilatih untuk membuat perkiraan atau keputusan berdasarkan input informasi baru, yang disebut kesimpulan.

Berbeda dengan pelatihan, yang sering membutuhkan lebih banyak infrastruktur komputasi untuk mendukungnya, kesimpulan dapat dibuat lebih mudah di tepi server komputasi umum, peralatan yang diketahui, konsumsi daya yang lebih rendah dan fleksibilitas, yang sesuai dengan minatnya pada lingkungan yang berbeda.

Faktanya, IDC memperkirakan bahwa pada tahun 2025, hingga 75% dari data dunia tidak akan diproduksi dan diproses di pusat data tradisional atau di awan, tetapi di tepi.

Penting untuk mengetahui bahwa area tepi tidak hanya memiliki lebih banyak AI dan pemrosesan data, tetapi beban kerja utama juga mengalami proses kesimpulan.

Pikirkan tentang berapa banyak orang yang “membangun” pola cuaca dibandingkan dengan berapa banyak orang “menggunakan” model cuaca. Ini adalah pelatihan dibandingkan dengan kesimpulan, dan yang terakhir akan mengambil beban kerja AI di masa depan. Mengetahui ini akan membantu perusahaan mengembangkan infrastruktur teknologi informasi yang tepat di masa depan.

 

Ini bukan masalah apakah perhitungan tepi lebih penting daripada pemrosesan data di pusat data atau CPU lebih penting daripada GPU. Ini tentang menggunakan alat yang tepat untuk pekerjaan yang tepat.

AI rumit dan tergantung pada kasusnya, AI memiliki persyaratan komputasi yang sangat berbeda, termasuk pengalaman pengguna, aspek operasional, biaya, peraturan negara dan banyak lagi.

Untuk mengembangkan AI, kita harus terus -menerus mempertimbangkan jenis infrastruktur yang paling cocok untuk memenuhi permintaan pemrosesan data Indonesia, yang tidak pernah “puas”.

Kembali ke analog pasokan air seperti kegunaan, yang membutuhkan lebih dari sekadar bendungan, tetapi juga tangki atau tangki air, pabrik pengolahan dan pasokan daya komputasi lainnya, yang membutuhkan berbagai jaringan infrastruktur.

Di masa lalu, penting untuk belajar dari penyediaan kegunaan, termasuk efisiensi, keamanan dan daya tahan, untuk mengingat bahwa tidak ada peristiwa “tunggal”, tidak ada “ukuran” yang cocok untuk semua hal, serta daya komputasi selama era AIA.

CATEGORIES:

Teknologi

Comments are closed

Latest Comments

No comments to show.
PAY4D gbk99