IDSIA: kecerdasan buatan di Lugano sejak 1988

Angelo Dalle Molle dan institut-institutnya

Lembaga riset tertua yang diuraikan dalam bab ini didirikan oleh seorang dermawan swasta delapan tahun sebelum kanton tersebut memiliki universitas. Angelo Dalle Molle (1908–2002) adalah seorang pengusaha Italia dari Veneto yang meraih kekayaannya dari likeur artichoke Cynar dan mengabdikan sebagian besar kekayaan itu untuk memajukan riset tentang kualitas hidup dan hubungan antara manusia dan mesin.¹ Ia membentuk sebuah trust (wali amanat) di Swiss untuk mendanai riset di luar struktur universitas tradisional dan mendirikan tiga institut: IDSIA di Lugano, IDIAP di Martigny, dan ISSCo di Jenewa. Ketiganya kini terintegrasi ke dalam lembaga akademik setempat.² Istituto Dalle Molle di studi sull'intelligenza artificiale (IDSIA, Institut Dalle Molle untuk Kecerdasan Buatan) didirikan di Lugano pada 1988. Menurut institut tersebut, Dalle Molle “membayangkan sebuah dunia di mana kemajuan teknologi dan perkembangan manusia bersama-sama meningkatkan kualitas hidup”.³ Pada perayaan ulang tahun ke-35 institut tersebut pada September 2023, visinya dirangkum sebagai cita-cita agar mesin memahami manusia, sehingga orang tidak lagi harus berkomunikasi dengan komputer dalam kode biner.⁴ IDSIA bermula sebagai institut swasta yang dibiayai oleh yayasan (Stiftung) Dalle Molle. Pada 2000 IDSIA menjadi lembaga riset publik yang berafiliasi dengan USI dan SUPSI sekaligus. Sejak itu IDSIA berperan sebagai “jembatan” antara kedua lembaga tersebut, bekerja “dari riset dasar hingga riset terapan” dan mentransfer pengetahuannya ke dalam aplikasi.⁵ Kantornya berada di Kampus Timur USI dan SUPSI di Lugano-Viganello. Pada 2023 institut tersebut mempekerjakan 130 orang. Institut ini dipimpin oleh seorang direktur, Andrea Emilio Rizzoli, dan tiga direktur ilmiah, yaitu Jürgen Schmidhuber, Marco Zaffalon, dan Cesare Alippi.⁶ Riset institut ini mencakup pembelajaran mesin, jaringan saraf, robotika, visi komputer, penalaran probabilistik, optimisasi, matematika komputasi, keamanan siber, dan interaksi manusia-komputer.⁷

Long short-term memory dan sejarah deep learning

Reputasi ilmiah IDSIA terutama bertumpu pada karya Jürgen Schmidhuber dan kelompoknya tentang jaringan saraf rekuren. Pada 1997 Sepp Hochreiter dan Jürgen Schmidhuber menerbitkan artikel “Long Short-Term Memory” dalam jurnal Neural Computation. Artikel tersebut menguraikan arsitektur jaringan saraf rekuren dengan sel memori dan gerbang (gate) yang mampu mempelajari ketergantungan pada rangkaian data yang panjang. Persoalan ini tidak dapat dipecahkan oleh jaringan rekuren sebelumnya, karena sinyal galat yang digunakan dalam pelatihan lambat laun menghilang atau meledak.⁸ Hochreiter telah mengembangkan analisis masalah gradien yang menghilang (vanishing gradient) dalam tesis diplomanya pada 1991 di Universitas Teknik München, tempat Schmidhuber saat itu menjadi pembimbingnya. Arsitektur LSTM disempurnakan di IDSIA pada tahun-tahun berikutnya oleh mahasiswa doktoral dan kolaborator Schmidhuber, di antaranya Felix Gers, Alex Graves, dan lain-lain, yang menambahkan “forget gate” dan mengembangkan metode pelatihan untuk pelabelan sekuens.⁹

Terobosan praktis terjadi pada akhir tahun 2000-an. Menurut uraian Schmidhuber sendiri, sebuah LSTM yang dilatih dengan metode connectionist temporal classification dari timnya pada 2009 menjadi jaringan saraf rekuren pertama yang memenangi kompetisi pengenalan pola internasional, yaitu dalam pengenalan tulisan tangan bersambung. Pada 2011 sebuah jaringan feedforward dalam dari timnya, DanNet, yang dilatih dengan prosesor grafis, menjadi jaringan pertama dari jenisnya yang memenangi kontes visi komputer dan mencapai apa yang oleh kelompok tersebut disebut kinerja melampaui manusia dalam kompetisi pengenalan rambu lalu lintas. Pada Mei 2015 kelompok tersebut menerbitkan Highway Network, sebuah jaringan feedforward yang sangat dalam dengan ratusan lapisan. Menurut uraian Schmidhuber, jaringan residual (ResNet) yang diterbitkan pada Desember 2015 oleh para peneliti Microsoft merupakan versi dengan gerbang terbuka (open-gated) dari jaringan tersebut.¹⁰ Antara 2009 dan 2012, jaringan saraf yang dikembangkan di institut tersebut memenangi delapan kompetisi internasional di bidang pengenalan pola dan pembelajaran mesin.¹¹

LSTM menjadi salah satu arsitektur jaringan saraf yang paling luas digunakan pada tahun 2010-an. Laman Schmidhuber mencantumkan penggunaannya untuk pengenalan suara pada ponsel pintar Android, untuk penerjemahan mesin oleh Google Translate dan Facebook, untuk Siri dan QuickType milik Apple, dan untuk jawaban Alexa milik Amazon.¹² Klaim-klaim ini berasal dari penemu metode tersebut. Klaim-klaim tersebut sejalan dengan publikasi perusahaan-perusahaan yang bersangkutan, yang menguraikan sistem berbasis LSTM dalam produk suara dan penerjemahan mereka pada pertengahan tahun 2010-an, sebelum arsitektur transformer yang diperkenalkan pada 2017 menggantikan jaringan rekuren dalam sebagian besar aplikasi bahasa.¹³ Atribusi jasa dalam sejarah deep learning masih diperdebatkan. Schmidhuber merupakan partisipan terkemuka dalam perdebatan mengenai prioritas gagasan. Untuk keperluan buku ini, cukup dicatat bahwa sebagian metode yang menjadi landasan pembelajaran mesin modern dikembangkan di Lugano, dan bahwa karya institut tersebut dikutip dalam uraian-uraian standar di bidang ini.¹⁴

Catatan

1. Wikipedia (bahasa Italia), “Angelo Dalle Molle”, https://it.wikipedia.org/wiki/Angelo_Dalle_Molle (dirujuk sebagai upaya terakhir) (lahir di Mestre; pencipta aperitif artichoke Cynar pada 1952; pendiri yayasan Dalle Molle di Lugano untuk riset kecerdasan buatan). Artikel tersebut menyebut 2001 sebagai tahun wafatnya, sedangkan laman institut itu sendiri menyebut 1908–2002 (di bawah). ↩
2. SUPSI, IDSIA, “Istituto” (di atas); USI, “Istituto Dalle Molle di studi sull'intelligenza artificiale (IDSIA USI-SUPSI)”, https://search.usi.ch/it/unita-organizzative/351. ↩
3. SUPSI, IDSIA, “Istituto” (di atas) (didirikan pada 1988 di Lugano oleh Angelo Dalle Molle, 1908–2002). ↩
4. “I 35 anni dell'IDSIA”, laRegione, 27 September 2023, https://www.laregione.ch/cantone/ticino/1700339/servizi. ↩
5. SUPSI, IDSIA, “Istituto” (di atas) (berafiliasi dengan USI dan SUPSI sejak 2000); USI, laman unit IDSIA (di atas) (“bridge”; “from fundamental to applied research”). Transformasi menjadi lembaga riset publik pada 2000 juga dinyatakan dalam Wikipedia, “Dalle Molle Institute for Artificial Intelligence Research”, https://en.wikipedia.org/wiki/Dalle_Molle_Institute_for_Artificial_Intelligence_Research (dirujuk sebagai upaya terakhir). ↩
6. laRegione, 27 September 2023 (di atas). ↩
7. USI, laman unit IDSIA (di atas), yang mencantumkan lebih dari delapan puluh bidang kompetensi. ↩
8. Sepp Hochreiter dan Jürgen Schmidhuber, “Long Short-Term Memory”, Neural Computation 9 (1997), no. 8, 1735–1780, sebagaimana dikutip pada laman Jürgen Schmidhuber tentang jaringan saraf yang paling banyak dikutip, https://people.idsia.ch/~juergen/most-cited-neural-nets.html (referensi [LSTM1]). ↩
9. Felix A. Gers, Jürgen Schmidhuber dan Fred Cummins, “Learning to Forget: Continual Prediction with LSTM”, Neural Computation 12 (2000), no. 10, 2451–2471 (referensi [LSTM2] pada laman yang sama, di atas); A. Graves, S. Fernández, F. Gomez dan J. Schmidhuber, “Connectionist Temporal Classification: Labelling Unsegmented Sequence Data with Recurrent Neural Networks”, ICML 2006, Pittsburgh, sebagaimana dikutip dalam Jürgen Schmidhuber, “Annotated History of Modern AI and Deep Learning” (2022), https://people.idsia.ch/~juergen/deep-learning-history.html, yang juga menguraikan tesis diploma Hochreiter tahun 1991 di TU München di bawah bimbingan Schmidhuber. Tesis dan bimbingan tersebut juga dinyatakan dalam Wikipedia, “Jürgen Schmidhuber”, https://en.wikipedia.org/wiki/J%C3%BCrgen_Schmidhuber (dirujuk sebagai upaya terakhir). ↩
10. Jürgen Schmidhuber, laman pribadi di IDSIA, https://people.idsia.ch/~juergen/ (“In 2009, the CTC-trained Long Short-Term Memory (LSTM) of his team was the first recurrent NN to win international pattern recognition competitions”; “In 2011, the DanNet of his team was the first feedforward NN to win computer vision contests, achieving superhuman performance”; Highway Net bulan Mei 2015 dan ResNet bulan Desember 2015). ↩
11. Wikipedia, “Dalle Molle Institute for Artificial Intelligence Research” (di atas) (“won eight international competitions in pattern recognition and machine learning”, 2009–2012). ↩
12. Schmidhuber, laman pribadi (di atas). ↩
13. H. Sak, A. Senior, K. Rao, F. Beaufays dan J. Schalkwyk (Google Speech Team), “Google voice search: faster and more accurate”, Google Research Blog, September 2015, sebagaimana dikutip dalam Schmidhuber, “Annotated History” (di atas), yang juga menempatkan penggunaan LSTM dalam Google Translate pada 2016 dan makalah transformer karya Ashish Vaswani et al., “Attention Is All You Need”, pada 2017. ↩
14. Lihat misalnya Jürgen Schmidhuber, “Deep Learning in Neural Networks: An Overview”, Neural Networks 61 (2015), 85–117 (referensi [DL1] dalam Schmidhuber, “Annotated History”, di atas), dan “Annotated History” itu sendiri, yang memaparkan pandangannya mengenai sengketa prioritas. ↩

Hanya untuk informasi umum. Artikel ini bukan merupakan nasihat hukum atau pajak, tidak menggantikan nasihat atas kasus individual, dan tidak menimbulkan hubungan antara advokat dan klien. Artikel ini mencerminkan keadaan hukum per Oktober 2026.