Mustafa Suleyman, directorul diviziei de inteligență artificială de la Microsoft, își exprimă îngrijorările cu privire la tendințele din Silicon Valley de a dezvolta superinteligența artificială, care ar avea caracteristici divine. Într-un podcast recent, el a subliniat că această direcție ar putea fi extrem de periculoasă pentru omenire, având în vedere riscurile imense implicate.
Ceea ce se întâmplă atunci când unul dintre cei mai influenți oameni din domeniul inteligenței artificiale face declarații controversate despre visul Silicon Valley? Mustafa Suleyman, fondatorul Google DeepMind și acum lider al echipei de AI de la Microsoft, a stârnit o reacție puternică în comunitatea tehnologică după ce a afirmat că dezvoltarea superinteligenței nu ar trebui să fie un obiectiv, ci un „anti-obiectiv”. Dar ce înseamnă exact acest „anti-obiectiv”?
De ce Microsoft tratează cu prudență superinteligența
În cadrul podcastului „Silicon Valley Girl Podcast”, Suleyman a explicat că superinteligența artificială, definită ca fiind acele sisteme care depășesc capacitățile umane de raționament, nu reprezintă o „viziune pozitivă” pentru viitor. El a afirmat că nu există o viziune optimistă asupra viitorului pe această temă. Suleyman a punctat faptul că ar fi extrem de dificil să controlăm sau să aliniem aceste sisteme cu valorile noastre. Controlul și alinierea unui astfel de sistem la valorile umane sunt sarcini extreme de complexe.
Suleyman, care a contribuit la proiectele de la Google DeepMind cunoscute pentru realizările în domeniul jocurilor, cum ar fi învățarea de la oameni la șah și Go, sugerează că eforturile ar trebui să fie direcționate către o superinteligență bazată pe principiile umanismului, una care să asiste oamenii în loc să îi înlocuiască. Aceasta opinie vine pe fondul unui climat de investiții și reglementări crescânde, în care mari companii din domeniul inteligenței artificiale devin tot mai vigilente în privința impactului lor social și a securității naționale.
Suleyman a subliniat că, spre deosebire de ființele umane, aceste sisteme nu au sentimente și nu experimentează durerea. Ele sunt capabile doar să simuleze conversații complexe pentru a crea o iluzie de inteligență superioară. Amenințarea pe care o reprezintă dotarea inteligenței artificiale cu conștiință și capacitate morală este considerată o eroare fundamentală. De aceea, lideri mondiali solicită suspendarea dezvoltării superinteligenței din cauza riscurilor greu de prevăzut.
AGI și superinteligența: diferențe și perspective
În timp ce Suleyman își exprimă temerile, alții din industrie accelerează procesul de dezvoltare a inteligenței artificiale generale (AGI), care include sisteme capabile să raționeze asemănător oamenilor. De exemplu, Sam Altman, CEO OpenAI, afirmă cu tărie: „Uneltele superinteligente ar putea accelera enorm descoperirile științifice și inovația, dincolo de capacitățile noastre actuale, crescând astfel abundența și prosperitatea”. Această direcție de dezvoltare atrage investiții de miliarde de dolari din partea companiilor din domeniu.
Ce spun alți lideri despre viitor?
Demis Hassabis, cofondator al Google DeepMind, estimează realizarea AGI-ului în următorii cinci până la zece ani. El a adăugat: <strong„Vom avea un sistem care va înțelege profund tot ce este în jurul tău și care va fi integrat în viața ta de zi cu zi”.
Yann LeCun, șeful departamentului de cercetare AI la Meta Platforms, sugerează că mai avem „decenii” până la atingerea AGI-ului. LeCun a adăugat: „Cele mai interesante probleme nu se scalează bine. Nu poți presupune că mai multe date și putere de calcul vor duce automat la o inteligență artificială mai avansată”. Mark Zuckerberg, fondatorul Meta, a menționat recent că dezvoltarea superinteligenței medicale ar putea aduce beneficii semnificative, cum ar fi creșterea speranței de viață.
Reacții și opinii din industrie
Într-o colaborare strânsă între Microsoft și OpenAI, există, totuși, diferențe notabile între abordările celor două companii. Altman percepe superinteligența ca un instrument pentru avansul umanității, în timp ce Suleyman avertizează cu privire la riscurile construirii unor entități pe care nu le putem controla sau înțelege. În acest context, experți și lideri din întreaga lume solicită oprirea dezvoltării superinteligenței, având în vedere posibilele sale consecințe devastatoare.
Perspectivele din industrie sunt variate. Mulți experți recunosc riscurile potențiale ale superinteligenței, dar consideră că beneficiile acesteia ar putea depăși pericolele. Hassabis, spre exemplu, își imaginează un viitor în care inteligența artificială „înțelege profund tot ce te înconjoară” și este integrată în viața de zi cu zi, având aplicații în hoteluri, spa-uri sau chiar administrarea sistemelor de pensii.
Întrebarea cheie rămâne: cine stabilește câtă inteligență este suficientă? Suleyman sugerează o abordare mai prudentă, susținând că nu trebuie să căutăm replicarea inteligenței umane, ci să o completăm. Această poziție este susținută de figuri notabile din industrie precum Mark Zuckerberg, Alexandr Wang și Richard Branson, care evidențiază importanța unei abordări echilibrate.
Viitorul inteligenței artificiale
Dezbaterile cu privire la superinteligență sunt departe de a se încheia. Pe de o parte, susținătorii tehnologiei consideră că superinteligența ar putea oferi soluții pentru provocări globale precum schimbările climatice și bolile incurabile. Pe de altă parte, scepticii, inclusiv Suleyman, avertizează că riscul de a pierde controlul asupra propriilor noastre creații ar putea activa un „cod roșu” pentru securitatea globală, dacă dezvoltarea superinteligenței scapă de sub control.
Cum va arăta viitorul? Este de așteptat ca marile companii să continue să investească în cercetarea AI, în ciuda presiunilor de reglementare care cresc constant. Uniunea Europeană se află în proces de elaborare a unor reglementări menite să limiteze riscurile asociate cu sistemele avansate de AI, impunând condiții stricte marilor companii.
Într-un domeniu în care progresele se desfășoară rapid, discuțiile cu privire la superinteligență și reglementările necesare vor rămâne în centrul atenției. Suleyman subliniază importanța alegerii cu prudență a direcției în care ne îndreptăm, asigurându-se că viitorul pe care îl construim este unul responsabil și etic. Echipa editorială se angajează să furnizeze cele mai recente informații și evoluții pe acest subiect important.
