Pemula AI secara kolektif menukar pekerjaan kepada OpenAI, dan pasukan keselamatan berkumpul semula selepas Ilya pergi!

Minggu lalu, disebabkan gelombang peletakan jawatan dalaman dan kritikan luar, OpenAI boleh dikatakan mengalami masalah dalaman dan luaran:

- Pelanggaran adik balu itu mencetuskan perbincangan hangat global

Pekerja menandatangani "fasal tuan" dan didedahkan satu demi satu Keluar

- Netizen memecahkan "tujuh dosa maut" Ultraman

Khabar angin disangkal: Menurut maklumat dan dokumen kanan yang dibocorkan, OpenAI termasuk Altman, sangat mengetahui syarat pemulihan ekuiti ini, dan menandatanganinya.

Selain itu, terdapat isu serius dan mendesak yang dihadapi oleh OpenAI - keselamatan AI.

Pemergian lima pekerja berkaitan keselamatan baru-baru ini, termasuk dua pekerjanya yang paling terkemuka, dan pembubaran pasukan "Super Alignment" sekali lagi meletakkan isu keselamatan OpenAI dalam perhatian.

Fortune melaporkan bahawa OpenAI tidak pernah memenuhi janjinya untuk memberikan pasukan Penjajaran Supernya akses kepada 20% daripada sumber pengkomputerannya.

Pada Julai 2023, OpenAI menubuhkan pasukan baharu yang berdedikasi untuk memastikan sistem kecerdasan buatan masa depan yang mungkin lebih pintar daripada gabungan manusia dapat dikawal dengan selamat. Untuk menunjukkan betapa seriusnya syarikat itu terhadap matlamat ini, ia secara terbuka komited untuk menumpukan 20% daripada sumber pengkomputeran yang tersedia pada masa itu untuk usaha itu.

Kini, kurang daripada setahun kemudian, pasukan yang dipanggil "Super Alignment" telah dibubarkan di tengah-tengah peletakan jawatan pekerja dan tuduhan bahawa OpenAI mengutamakan pelancaran produk berbanding keselamatan AI, menurut enam orang yang biasa dengan perkara itu, OpenAI tidak pernah menunaikan janjinya untuk menyediakan 20% kuasa pengkomputeran kepada pasukan.

Tetapi pada Khamis lalu, Ketua Pegawai Eksekutif Indent Fouad Matin mengumumkan di X dan Reddit, "Kami telah menyertai OpenAI dan komited untuk menyediakan keselamatan untuk AGI

Dia menulis dalam tweet, "Saya teruja untuk!" bekerjasama dengan pasukan yang hebat untuk menjamin masa depan daripada penyediaan model yang canggih kepada kawalan data pelanggan, adalah penting untuk memastikan AI selamat dan memberi manfaat kepada semua orang."

Nampaknya, pasukan keselamatan OpenAI sedang mengumpulkan semula merekrut orang baru, bolehkah Fouad Matin, yang baru direkrut oleh OpenAI, melangkah masuk dan "menyelamatkan bangunan daripada jatuh"?

Fouad Matin dan pasukannya

Beberapa "orang yang tidak tahu kebenaran" meninggalkan mesej di bawah siaran Fouad Matin: Siapakah "kami" dalam "Kami menyertai OpenAI"?

Jelas sekali, jawapannya tidak semudah "dua bahagiannya".

Pada masa ini, Indent telah mengeluarkan "notis matahari terbenam" di laman web rasminya, mengumumkan bahawa Indent akan menghentikan perkhidmatan pada Julai tahun ini.

Kami memulakan Indent dengan matlamat untuk membantu pasukan melindungi perkara yang paling penting. Pelanggan kami telah mendapatkan segala-galanya daripada data pelanggan dan infrastruktur pengeluaran kepada perisian perniagaan harian, semuanya tanpa memperlahankan pasukan mereka.

Selepas pertimbangan yang teliti, kami telah membuat keputusan yang sangat sukar: Indent akan ditutup dalam beberapa bulan akan datang Kami akan membantu pelanggan beralih dan terus berusaha ke arah matlamat bersama ini.

Pasukan boleh memohon sehingga 15 Julai 2024 jam 12 tengah hari PST, pada masa itu perkhidmatan akan ditutup. Log audit akan tersedia sehingga 19 Julai, selepas itu kami akan memulakan proses pengalihan keluar data.

Kami ingin mengucapkan terima kasih kepada semua yang menggunakan Indent, daripada permulaan peringkat awal mendapat akses pada hari pertama, kepada ratusan orang yang menggunakan Indent untuk melindungi sumber kritikal misi. 🎜🎜

Fouad Matin est le co-fondateur et PDG d'Indent Fouad Matin a déclaré qu'il a fondé Indent parce qu'il a constaté que la plupart des entreprises ne savaient pas qui avait accès aux données des clients, et pour la plupart des entreprises, le coût de la découverte de ce problème était trop élevé. high. High, sans parler du verrouillage de ces données. Et Indent peut fournir un contrôle d’accès convivial. En décembre 2021, Indent a levé 5,6 millions de dollars pour le contrôle d'accès à la demande.

Avant de fonder Indent en 2018, Fouad Matin a eu 3 autres expériences professionnelles.

En 2014, Fouad Matin a cofondé une société de recrutement de recommandations avec d'autres Lianchuang, où il était responsable de la conception des produits, des ventes et de l'ingénierie. Participation au premier programme de bourses Y Combinator et YC W16.

En 2016, il a fondé une organisation non partisane à but non lucratif qui se consacre à créer le moyen le plus simple pour les jeunes de s'inscrire et de voter, aidant ainsi 1 million de personnes à voter.

En 2017, il a travaillé comme ingénieur chez Segment, dirigeant le développement de produits et d'ingénierie de rôles de segment qui permettent aux clients d'analyser les actions des utilisateurs dans des fichiers de configuration. Engagé à améliorer la conception de l’expérience produit.

Comme Fouad Matin le présente dans son profil, il est un ingénieur logiciel et concepteur de produits qui investit parfois dans des startups et a aidé des millions de personnes au cours des dernières années à voter pour des organisations à but non lucratif et des entreprises à gérer leurs données clients.

Maintenant, il travaille dans la sécurité chez OpenAI. Retrait du coucher du soleil, et Fouad Matin va entamer son nouveau parcours professionnel.

Autres membres

Dans la zone commentaire du tweet de Fouad Matin, un ami qui le connaît depuis 2 ans l'a félicité. Cet ami a révélé qu'en plus de Fouad Matin, il y en a aussi d'autres qui l'ont rejoint. l'équipe de sécurité OpenAI Dan Gillespie.

Dan Gillespie sera principalement engagé dans "la construction de la plateforme informatique sécurisée nécessaire à l'arrivée d'AGI".

Une chose qui ressemble à Fouad Matin est que Dan Gillespie a également une expérience en investissement. Selon son introduction sur LinkedIn, il a également travaillé chez Y Combinator, l'entreprise la plus négative de la Silicon Valley. Le prestigieux incubateur de startups a investi dans plus de 260 startups d'IA au cours de l'année écoulée et constitue une référence pour les tendances des startups d'IA dans la Silicon Valley et même dans le monde.

Gauche : Dan Gillespie, 23 ans

Une chronique Bloomberg Opinion proposait : "Mai 2024 restera dans les mémoires comme le mois où le mouvement pour la sécurité de l'IA est mort. En même temps, les gens rappelez-vous également qu'il est temps que le travail d'une IA plus sûre commence vraiment.

En tant qu'entreprise leader en IA, OpenAI peut-elle vraiment persister dans la construction d'un système plus sécurisé malgré les voix négatives. Nous espérons que la nouvelle équipe de sécurité d'OpenAI pourra apporter ? différent.