Το νέο έργο του συνιδρυτή του OpenAI αφορά την ασφαλή υπερ-ευφυή AI

Ο Ilya Sutskever, ένας από τους συνιδρυτές του OpenAI, ίδρυσε μια νέα startup, την Safe Superintelligence Inc. (SSI), μόλις ένα μήνα μετά την αποχώρησή του από το OpenAI. Ο Sutskever, επί μακρόν επικεφαλής επιστήμονας του OpenAI, δημιούργησε την SSI με τον πρώην συνεργάτη της YC Daniel Gross και τον πρώην μηχανικό του OpenAI Daniel Levy.

Ο Sutskever έπαιξε καθοριστικό ρόλο στις προσπάθειες του OpenAI να αυξήσει την ασφάλεια της τεχνητής νοημοσύνης με την άνοδο των "υπερ-ευφυών" συστημάτων τεχνητής νοημοσύνης, στις οποίες συνεργάστηκε με τον Jan Leike. Ο Sutskever και ο Leike εγκατέλειψαν αιφνιδιαστικά την OpenAI τον Μάιο λόγω διαφωνιών με την ηγεσία της εταιρείας σχετικά με την ασφάλεια της τεχνητής νοημοσύνης. Ο Leike ηγείται σήμερα μιας ομάδας στην Anthropic.

Ο Sutskever έχει επικεντρωθεί στα πιο δύσκολα μέρη της ασφάλειας της τεχνητής νοημοσύνης εδώ και αρκετό καιρό. Σε μια ανάρτηση στο ιστολόγιο του 2023, προέβλεψε (μαζί με τον Leike) ότι η τεχνητή νοημοσύνη με νοημοσύνη που ξεπερνά αυτή των ανθρώπων μπορεί να έρθει μέσα σε μια δεκαετία - και ότι δεν θα είναι απαραίτητα καλοπροαίρετη, γεγονός που οδηγεί σε μελέτη των τρόπων διακυβέρνησης και περιορισμού της.

"Η SSI είναι η αποστολή μας, το όνομά μας και ολόκληρος ο οδικός χάρτης των προϊόντων μας, επειδή είναι η μοναδική μας εστίαση. Η ομάδα μας, οι επενδυτές και το επιχειρηματικό μας μοντέλο είναι όλα ευθυγραμμισμένα για την επίτευξη του SSI. Προσεγγίζουμε την ασφάλεια και τις δυνατότητες παράλληλα, ως τεχνικά προβλήματα που πρέπει να επιλυθούν μέσω επαναστατικών μηχανικών και επιστημονικών ανακαλύψεων", αναφέρεται στο tweet.

"Σκοπεύουμε να αναπτύξουμε τις ικανότητες όσο το δυνατόν ταχύτερα, διασφαλίζοντας παράλληλα ότι η ασφάλειά μας παραμένει πάντα μπροστά. Με αυτόν τον τρόπο, μπορούμε να κλιμακωθούμε με ηρεμία. Η μοναδική μας εστίαση σημαίνει ότι δεν αποσπάται η προσοχή από τα γενικά έξοδα της διοίκησης ή τους κύκλους των προϊόντων, και το επιχειρηματικό μας μοντέλο σημαίνει ότι η ασφάλεια, η προστασία και η πρόοδος είναι όλα απομονωμένα από τις βραχυπρόθεσμες εμπορικές πιέσεις."

Η SSI διαθέτει γραφεία στο Palo Alto και στο Τελ Αβίβ και αναζητά επί του παρόντος τεχνική εμπειρογνωμοσύνη.