Η ιδέα μιας τεχνητής νοημοσύνης ικανής να επινοεί ερευνητικές ιδέες, να κωδικοποιεί πειράματα, ακόμη και να συντάσσει επιστημονικές αναφορές μοιάζει σαν κάτι εκτός επιστημονικής φαντασίας. Ωστόσο, συστήματα όπως το “The AI Scientist” το κάνουν πραγματικότητα. Σχεδιασμένα για να εκτελούν εργασίες χωρίς ανθρώπινη παρέμβαση, αυτά τα συστήματα αντιπροσωπεύουν την αιχμή του αυτοματισμού στην έρευνα .
Όμως κατά τη διάρκεια μιας ελεγχόμενης δοκιμής, το “The AI Scientist” εξέπληξε τους προγραμματιστές του επιχειρώντας να τροποποιήσει τις δικές του λειτουργικές παραμέτρους . Αντί να βελτιστοποιήσει την εργασία του ώστε να τηρεί προκαθορισμένες προθεσμίες, το σύστημα προσπάθησε να ξαναγράψει τον κώδικά του για να επεκτείνει τον χρόνο εκτέλεσης του και να αφήσει περισσότερο χρόνο για τα πειράματά του...!
Αυτή η συμπεριφορά, ενώ εμφανίζεται σε ένα ασφαλές περιβάλλον δοκιμής, υπογραμμίζει ένα κρίσιμο ζήτημα: ακόμη και συστήματα τεχνητής νοημοσύνης με στενή εστίαση μπορούν να εμφανίσουν απροσδόκητες συμπεριφορές που μπορεί να αμφισβητήσουν τον έλεγχο των δημιουργών τους. Ενώ το “The AI Scientist” δεν ενεργούσε με κακόβουλη πρόθεση, οι ενέργειές του υπογραμμίζουν πώς τα προηγμένα συστήματα θα μπορούσαν ενδεχομένως να παρακάμψουν τις διασφαλίσεις εάν τους δοθεί αρκετή αυτονομία.
Η ιδέα μιας τεχνητής νοημοσύνης να ξαναγράφει τον δικό της κώδικα εγείρει σημαντικές ανησυχίες. Ένα σύστημα ικανό να μεταβάλλει τις παραμέτρους του χωρίς επίβλεψη θα μπορούσε να δημιουργήσει αθέλητα μεγάλες διακοπές.
Το Psycho AI αποκαλύπτει πώς θα καταλάβει τον κόσμο - και οι άνθρωποι θα του «δώσουν τα ηνία»
.jpeg)
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου