Η λειτουργία μοντέλου τεχνητής νοημοσύνης σε συνδεδεμένα Android TV boxes έδειξε επιμέρους δυνατότητες που θα μπορούσαν να αξιοποιηθούν από μελλοντικά «AI worms». Οι δοκιμές, ωστόσο, δεν κατέληξαν σε έναν πλήρως αυτόνομο μηχανισμό εξάπλωσης.
Η περιορισμένη προστασία πολλών έξυπνων συσκευών αποκτά ιδιαίτερη σημασία υπό το πρίσμα έρευνας της Anthropic για κακόβουλο λογισμικό που θα μπορούσε να αξιοποιεί τεχνητή νοημοσύνη και να αναπαράγεται αυτόνομα. Η εταιρεία προειδοποιεί ότι ένας τέτοιος μηχανισμός θα ήταν δύσκολο να απενεργοποιηθεί εάν λειτουργούσε ταυτόχρονα σε μεγάλο αριθμό ανεξάρτητων συσκευών.
Η εσωτερική ομάδα ασφαλείας της εταιρείας, η οποία αναπτύσσει το Claude, εξέτασε τις δυνατότητες των λεγόμενων «AI worms»: προγραμμάτων που θα μπορούσαν να αντιγράφουν και να μεταφέρουν τον εαυτό τους από ένα μηχάνημα σε άλλο, χωρίς συνεχή ανθρώπινη καθοδήγηση.
Τα αποτελέσματα, που δημοσιοποιήθηκαν στις 12 Οκτωβρίου, καταγράφουν πρόοδο σε επιμέρους λειτουργίες, αλλά και εμπόδια στην ολοκλήρωση μιας αξιόπιστης, αυτόνομης αλυσίδας εξάπλωσης.
Η δοκιμή με τα 15 Android TV boxes
Ένα από τα βασικά αποτελέσματα του πειράματος ήταν η λειτουργία μοντέλου τεχνητής νοημοσύνης μέσω της συνδυασμένης υπολογιστικής ισχύος 15 συσκευών Android TV box συνδεδεμένων στο Διαδίκτυο.
Το εύρημα έδειξε ότι ορισμένα μοντέλα μπορούν να λειτουργήσουν και εκτός μεγάλων κέντρων δεδομένων. Η επίδοση αυτή, πάντως, δεν ισοδυναμεί με τη δημιουργία κακόβουλου προγράμματος που εξαπλώνεται ανεξέλεγκτα.
Σε άλλη δοκιμή, μοντέλο εννέα δισεκατομμυρίων παραμέτρων κατάφερε να προσαρμόσει τη λειτουργία άλλων μοντέλων σε οκτώ από τους εννέα τύπους υλικού που εξετάστηκαν.
Τα στάδια που παραμένουν εμπόδιο
Για να λειτουργήσει ένας πλήρως αυτόνομος μηχανισμός, θα πρέπει να εντοπίζει μια νέα συσκευή, να αποκτά πρόσβαση σε αυτή, να εγκαθιστά το λογισμικό του και στη συνέχεια να επαναλαμβάνει τη διαδικασία.
Τα μικρότερα μοντέλα της έρευνας εκτέλεσαν αρκετές από αυτές τις ενέργειες, χωρίς να μπορούν να ολοκληρώσουν αξιόπιστα ολόκληρη την ακολουθία. Επιπλέον, η εκτέλεσή τους σε εξοπλισμό χαμηλής υπολογιστικής ισχύος αποδείχθηκε ιδιαίτερα αργή.
Η Anthropic εκτιμά ότι, εφόσον διατηρηθεί ο σημερινός ρυθμός τεχνολογικής ανάπτυξης, μικρά μοντέλα ενδέχεται να αποκτήσουν τις απαιτούμενες δυνατότητες έως το τέλος του 2026. Η εκτίμηση αφορά την εξέλιξη των δυνατοτήτων τους και δεν επιβεβαιώνει ότι μέχρι τότε θα εκδηλωθεί πραγματική κυβερνοεπίθεση αυτού του είδους.
Πώς περιγράφεται η πιθανή εξάπλωση
Τα συμβατικά κακόβουλα προγράμματα αξιοποιούν ευπάθειες για να προσβάλλουν ηλεκτρονικές συσκευές. Στην περίπτωση των AI worms, το μοντέλο θα μπορούσε επιπλέον να προσαρμόζει τη λειτουργία του στον εξοπλισμό που επιχειρεί να προσβάλει.
Σύμφωνα με την εταιρεία, ένας μελλοντικός μηχανισμός θα μπορούσε να αναζητεί ευάλωτες συσκευές, να μεταφέρει σε αυτές το λογισμικό του και να συνεχίζει την εξάπλωση χωρίς διαρκή ανθρώπινο έλεγχο.
Στους πιθανούς στόχους περιλαμβάνονται έξυπνες τηλεοράσεις, κάμερες ασφαλείας, ηλεκτρικές συσκευές και άλλος εξοπλισμός με σύνδεση στο Διαδίκτυο.
Η ασφάλεια των συνδεδεμένων συσκευών
Οι ερευνητές επισημαίνουν ότι πολλές συσκευές του «Διαδικτύου των Πραγμάτων» διαθέτουν χαμηλότερο επίπεδο προστασίας από εκείνο των σύγχρονων υπολογιστών και κινητών τηλεφώνων. Παράλληλα, οι αραιότερες ενημερώσεις ασφαλείας από ορισμένους κατασκευαστές αφήνουν γνωστές ευπάθειες χωρίς διόρθωση.
Η Anthropic προτείνει την ενίσχυση της προστασίας αυτών των συσκευών, την τακτική ενημέρωση του λογισμικού τους και στενότερη συνεργασία κατασκευαστών, παρόχων Διαδικτύου και ειδικών κυβερνοασφάλειας.
Μέχρι στιγμής, οι ερευνητές δεν έχουν παρουσιάσει έναν πλήρως αυτόνομο ιό AI που να μεταδίδεται επιτυχώς μεταξύ συσκευών σε πραγματικές συνθήκες. Η μελέτη αφορά πειραματικές δυνατότητες και τους κινδύνους που ενδέχεται να προκύψουν καθώς αυτές εξελίσσονται.