banner large

Apa kesamaan AI dan pembangkit listrik?

Comment
X
Share

Kami sangat antusias untuk menghadirkan Transform 2022 kembali secara langsung pada 19 Juli dan 20 – 28 Juli secara virtual. Bergabunglah dengan AI dan pemimpin data untuk pembicaraan yang berwawasan luas dan peluang jaringan yang menarik. Daftar hari ini!


Kisah pengembangan kecerdasan buatan (AI) selama lima tahun terakhir didominasi oleh skala. Kemajuan besar telah dibuat dalam pemrosesan bahasa alami (NLP), pemahaman gambar, pengenalan suara, dan banyak lagi dengan mengambil strategi yang dikembangkan pada pertengahan 2010-an dan menempatkan lebih banyak daya komputasi dan lebih banyak data di belakang mereka. Ini telah membawa dinamika daya yang menarik dalam penggunaan dan distribusi sistem AI; salah satu yang membuat AI sangat mirip dengan jaringan listrik.

Untuk NLP, lebih besar benar-benar lebih baik

Kecanggihan NLP saat ini didukung oleh jaringan saraf dengan miliaran parameter yang dilatih pada terabyte teks. Cukup dengan menyimpan jaringan ini dalam memori memerlukan beberapa GPU mutakhir, dan melatih jaringan ini membutuhkan kluster superkomputer yang jauh di luar jangkauan semua kecuali organisasi terbesar.

Seseorang dapat, dengan menggunakan teknik yang sama, melatih jaringan saraf yang secara signifikan lebih kecil pada teks yang jauh lebih sedikit tetapi kinerjanya akan jauh lebih buruk. Jauh lebih buruk, pada kenyataannya, itu menjadi perbedaan jenis, bukan hanya perbedaan derajat; ada tugas-tugas seperti klasifikasi teks, ringkasan dan ekstraksi entitas di mana model bahasa besar unggul dan model bahasa kecil tampil tidak lebih baik daripada kebetulan.

Sebagai seseorang yang telah bekerja dengan jaringan saraf selama sekitar satu dekade, saya benar-benar terkejut dengan perkembangan ini. Tidak jelas dari sudut pandang teknis bahwa peningkatan jumlah parameter dalam jaringan saraf akan mengarah pada peningkatan kemampuan yang drastis. Namun, di sinilah kita pada tahun 2022, melatih jaringan saraf hampir identik dengan arsitektur yang pertama kali diterbitkan pada tahun 2017, tetapi dengan jumlah komputasi yang lebih banyak, dan mendapatkan hasil yang lebih baik.

Ini menunjukkan dinamika baru dan menarik di lapangan. Model tercanggih terlalu mahal secara komputasi untuk hampir semua perusahaan – apalagi individu – untuk dibuat atau bahkan digunakan. Agar perusahaan dapat menggunakan model seperti itu, mereka perlu menggunakan model yang dibuat dan dihosting oleh orang lain – mirip dengan cara listrik dibuat dan didistribusikan saat ini.

Berbagi AI seperti utilitas terukur

Setiap gedung perkantoran membutuhkan listrik, tetapi tidak ada gedung perkantoran yang dapat menampung infrastruktur yang dibutuhkan untuk menghasilkan listriknya sendiri. Sebaliknya, mereka terhubung ke jaringan listrik terpusat dan membayar untuk daya yang mereka gunakan.

Dengan cara yang sama, banyak perusahaan dapat mengambil manfaat dari mengintegrasikan NLP ke dalam operasi mereka, meskipun hanya sedikit yang memiliki sumber daya untuk membangun model AI mereka sendiri. Inilah tepatnya mengapa perusahaan telah membuat model AI besar dan membuatnya tersedia melalui API yang mudah digunakan. Dengan menawarkan cara bagi bisnis untuk “menghubungkan” ke jaringan listrik NLP pepatah, biaya pelatihan model-model canggih skala besar ini diamortisasi ke berbagai pelanggan, sehingga memungkinkan mereka untuk mengakses teknologi mutakhir ini , tanpa infrastruktur mutakhir.

Untuk memberikan contoh konkret, katakanlah sebuah perusahaan yang menyimpan dokumen hukum ingin menampilkan ringkasan dari setiap dokumen yang dimilikinya. Mereka dapat mempekerjakan beberapa mahasiswa hukum untuk membaca dan meringkas setiap dokumen sendirian, atau mereka dapat memanfaatkan jaringan saraf. Jaringan saraf skala besar yang bekerja bersama-sama dengan alur kerja mahasiswa hukum akan secara drastis meningkatkan efisiensi dalam peringkasan. Pelatihan satu dari awal, bagaimanapun, akan menghabiskan biaya lebih besar daripada hanya mempekerjakan lebih banyak mahasiswa hukum, tetapi jika perusahaan tersebut memiliki akses ke jaringan saraf canggih melalui API berbasis jaringan, mereka bisa saja sambungkan ke “jaringan listrik” AI, dan bayar untuk penggunaan ringkasan.

Analogi ini memiliki beberapa implikasi yang menarik jika kita mengikutinya sampai ke logika ekstrimnya. Listrik adalah utilitas, seperti air dan infrastruktur transportasi. Layanan ini sangat penting untuk berfungsinya masyarakat kita sehingga di Ontario (dari tempat saya menulis) layanan ini berhasil dikelola oleh perusahaan mahkota (dimiliki dan diatur oleh pemerintah federal atau provinsi). Perusahaan mahkota ini tidak hanya bertanggung jawab atas infrastruktur dan distribusi, tetapi juga evaluasi dan jaminan kualitas, seperti pengujian kualitas air.

Mengatur penggunaan AI juga penting

Selain itu, seperti halnya listrik, teknologi ini dapat disalahgunakan. Itu juga telah terbukti memiliki beberapa keterbatasan dan potensi penyalahgunaan. Ada banyak beasiswa tentang bagaimana model ini berpotensi menyebabkan kerusakan melalui astroturfing dan penyebaran bias. Mengingat cara teknologi ini siap untuk mengubah cara kita beroperasi secara mendasar, badan pengatur dan peraturannya penting untuk dipertimbangkan. Beberapa penyedia NLP API ini baru-baru ini merilis serangkaian praktik terbaik untuk menerapkan model ini, tetapi ini jelas hanya langkah pertama, membangun dari pekerjaan sebelumnya ini.

Andrew Ng terkenal mengatakan bahwa “AI adalah listrik baru.” Saya percaya dia bermaksud bahwa itu akan menggerakkan gelombang kemajuan dan inovasi, menjadi penting bagi berfungsinya ekonomi kita dengan dampak skala yang sama dengan pengenalan listrik. Pernyataan itu mungkin agak hiperbolis, tetapi mungkin lebih tepat dari yang saya kira. Jika AI adalah listrik baru, maka itu perlu diaktifkan oleh satu set pembangkit listrik baru.

Nick Frosst adalah salah satu pendiri di Cohere.

DataDecisionMakers

Selamat datang di komunitas VentureBeat!

DataDecisionMakers adalah tempat para ahli, termasuk orang-orang teknis yang melakukan pekerjaan data, dapat berbagi wawasan dan inovasi terkait data.

Jika Anda ingin membaca tentang ide-ide mutakhir dan informasi terkini, praktik terbaik, dan masa depan teknologi data dan data, bergabunglah dengan kami di DataDecisionMakers.

Anda bahkan mungkin mempertimbangkan untuk menyumbangkan artikel Anda sendiri!

Baca Lebih Lanjut Dari DataDecisionMakers

Leave a Reply

Your email address will not be published. Required fields are marked *