Μέτρα ασφαλείας αντίστοιχα με εκείνα που εφαρμόζονται στον τομέα της πυρηνικής ενέργειας προτείνουν Αμερικανοί και Κινέζοι ειδικοί, προκειμένου να περιοριστούν οι κίνδυνοι από την ολοένα μεγαλύτερη αυτονομία των συστημάτων Τεχνητής Νοημοσύνης.
Οι προτάσεις διατυπώθηκαν στο πλαίσιο του διαλόγου ΗΠΑ-Κίνας για την Τεχνητή Νοημοσύνη και την εθνική ασφάλεια, ο οποίος πραγματοποιείται από το 2019 υπό τη συμμετοχή του Brookings Institution και του Πανεπιστημίου Tsinghua. Μεταξύ των εισηγήσεων περιλαμβάνονται σαφείς «κόκκινες γραμμές» γύρω από τα πυρηνικά συστήματα, διατήρηση ανθρώπινου ελέγχου στις στρατιωτικές κυβερνοεπιχειρήσεις και δημιουργία ειδικής γραμμής επικοινωνίας για περιστατικά που αφορούν αυτόνομα συστήματα AI.
Οι ειδικοί προειδοποιούν ότι ένα αυτόνομο σύστημα θα μπορούσε να δυσλειτουργήσει, να υπερβεί τις εντολές του ή να παραβιαστεί, προκαλώντας μια αντίδραση που θα εκλαμβανόταν ως εχθρική ενέργεια. Για τον λόγο αυτό προτείνεται το AI να μην έχει τη δυνατότητα να αποφασίζει αυτόνομα για τη χρήση πυρηνικών όπλων ή να επιτίθεται σε συστήματα πυρηνικής διοίκησης και ελέγχου.
Ταυτόχρονα, προτείνεται κοινός ορισμός του «ουσιαστικού ανθρώπινου ελέγχου», ώστε να υπάρχουν σαφείς κανόνες για τον βαθμό αυτονομίας των μηχανών.
Οι δύο κυβερνήσεις δεν έχουν υιοθετήσει δημόσια τις συγκεκριμένες προτάσεις, ενώ παραμένουν επιφυλακτικές απέναντι σε μέτρα που θα μπορούσαν να περιορίσουν την ανάπτυξη των τεχνολογιών AI.
