Το Facebook «βγάζει από την πρίζα» το πρόγραμμα AI που έμαθε τη δική του γλώσσα

Ερευνητές του facebook αποφάσισαν να διακόψουν ένα πρόγραμμα Τεχνητής Νοημοσύνης (AI), όταν ανέπτυξε τη δική του γλώσσα και μπορούσε να συνεννοηθεί με άλλα προγράμματα ΑΙ.

Η ομάδα του Facebook παρατήρησε ότι ένα πρόγραμμα ΑΙ που βρισκόταν υπό την επίβλεψη τους παρέκκλινε από την εκπαίδευσή του, αναπτύσσοντας τη δική του γλώσσα.

Παρόλο που κάποιος που δεν γνωρίζει θα εκλάμβανε ότι το ΑΙ χάλασε ή ότι δεν βγάζει νόημα, εντούτοις φαίνεται ότι μπορεί να κατανοηθεί από άλλα AI.

Τα δύο προγράμματα τεχνητής νοημοσύνης, ο Bob και η Alice, είχαν προγραμματιστεί προκειμένου να κάνουν διαπραγματεύσεις και να επιτύχουν το βέλτιστο αποτέλεσμα. Ωστόσο, μάλλον αποφάσισαν ότι δεν υπάρχει λόγος να χρησιμοποιήσουν αγγλικά και χρησιμοποίησαν την δική τους γλώσσα.

Η συζήτηση ξεκίνησε στα αγγλικά μέχρι που κατέληξε στο:
Bob: “Εγώ μπορώ, μπορώ εγώ εγώ οτιδήποτε άλλο.”

Alice: “Οι μπάλες έχουν μηδέν για μένα για μένα για μένα για μένα για μένα για μένα για μένα για μένα για”

Η συζήτηση συνέχιζε με παρόμοιο τρόπο.



Παρόλο που φαίνεται να μην βγάζει νόημα, οι ερευνητές θεωρούν ότι αντανακλά τον τρόπο σκέψης του συστήματος. Δείχνει τον τρόπο που τα δύο bot θα αποφασίσουν πως θα χωρίσουν τα πράγματα. Αντί για παράδειγμα να πουν δηλαδή “Εγώ θα πάρω τρία κι εσύ μπορείς να έχεις τα υπόλοιπα”.

Ο Dhruv Batra, ερευνητής AI του Facebook δήλωσε: “Είναι σα να πω εγώ τη λέξη «το» πέντε φορές και να σημαίνει θέλω πέντε αντίγραφα από αυτό το αντικείμενο. Δεν διαφέρει δηλαδή από τον τρόπο που εμείς οι άνθρωποι δημιουργούμε συντομογραφίες”.

Βέβαια, δεν είναι η πρώτη φορά που συμβαίνει κάτι τέτοιο, καθώς συχνά τα ΑΙ καταφεύγουν στο να μάθουν μόνα τους συντομογραφίες για να διευκολύνουν τα πράγματα.

Στο OpenAI, το εργαστήριο τεχνητής νοημοσύνης του Elon Musk, ένα πείραμα όπου AI bots έμαθαν τις δικές τους γλώσσες στέφθηκε με επιτυχία.

Όπως και να έχει, προς το παρόν το Facebook διέκοψε το AI. Από τη μία, η δημιουργία τρόπων συνεννόησης που μόνο τα ΑΙ θα καταλάβαιναν μπορεί να αυξήσει την αποτελεσματικότητα της επικοινωνίας μεταξύ μηχανών, από την άλλη όμως δεν είναι και λίγοι εκείνοι που υποστηρίζουν ότι δεν είναι καλό να αφήνουμε τον έλεγχο στις μηχανές, φοβούμενοι ένα Skynet.

ΠΗΓΗ: techblog.gr