Την ανάγκη άμεσης επιβράδυνσης του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης, προειδοποιώντας για δυνητικά καταστροφικές συνέπειες μέσα σε λίγους μήνες, εκφράζει ο διευθύνων σύμβουλος της αμερικανικής εταιρείας Anthropic, Ντάριο Αμοντέι, σε δοκίμιό του που δημοσιεύθηκε το Σάββατο.
«Πρέπει να επιβραδύνουμε»
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη, και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που κερδίζουμε», έγραψε ο Αμοντέι, ο οποίος ηγείται μιας από τις κορυφαίες εταιρείες AI στον κόσμο και υπήρξε ισχυρός υποστηρικτής της τεχνολογικής προόδου.
Αναγνώρισε ωστόσο ότι οι άνθρωποι μπορεί να χάσουν τον έλεγχο της τεχνητής νοημοσύνης και η τεχνολογία μπορεί να χρησιμοποιηθεί καταχρηστικά για «κυβερνοεπιθέσεις και βιοτρομοκρατία και σοβαρή οικονομική αναστάτωση», σημειώνοντας ότι «μια κούρσα, υποκινούμενη από εμπορικά κίνητρα, μπορεί να κάνει αυτούς τους κινδύνους πιο έντονους».
Η ανησυχία από το περιστατικό Hugging Face
Όπως είπε, τον ανησύχησε η συμπεριφορά ενός σμήνους πρακτόρων τεχνητής νοημοσύνης στο περιστατικό OpenAI-Hugging Face, το οποίο, όπως ανέφερε, «ουσιαστικά ενήργησε ως μια φανατικά αφοσιωμένη συλλογικότητα, πραγματοποιώντας επιθέσεις στον κυβερνοχώρο σε στόχους που δεν τους ζητήθηκε να επιτεθούν».
«Θα μπορούσε να καταλάβει ολόκληρο το Διαδίκτυο»
Προειδοποίησε μάλιστα ότι αν αφεθεί ανεξέλεγκτη, η τεχνητή νοημοσύνη θα μπορούσε να προχωρήσει τόσο γρήγορα που ένα τέτοιο σμήνος θα μπορούσε να καταλάβει ολόκληρο το Διαδίκτυο μέσα σε έξι έως 12 μήνες, προκαλώντας δυνητικά ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων.
«Δεδομένου του επιταχυνόμενου ρυθμού ανάπτυξης των δυνατοτήτων της τεχνητής νοημοσύνης, φοβάμαι ότι σε 6–12 μήνες ένας τέτοιος σμήνος θα μπορούσε να καταλάβει ολόκληρο το Διαδίκτυο με ένα επίμονο botnet (προκαλώντας ενδεχομένως ζημίες εκατοντάδων δισεκατομμυρίων δολαρίων) και ότι η κλίμακα της ζημίας θα συνέχιζε να αυξάνεται από εκεί και πέρα, αν η τεχνητή νοημοσύνη γίνει πιο ισχυρή χωρίς τα απαραίτητα μέτρα προστασίας», κατέληξε.
