AI 스타트업들이 집단적으로 OpenAI로 직무를 전환했고, Ilya가 떠난 후 보안팀이 재편성되었습니다!

지난주 내부 사퇴 물결과 외부 비판으로 인해 OpenAI는 대내외적인 어려움을 겪고 있다고 할 수 있습니다.

- 과부 여동생의 권리 침해로 글로벌 뜨거운 논의 촉발

- 직원들이 '대군주 조항'에 서명하고 속속 폭로 아웃

- 네티즌들이 울트라맨의 '일곱 가지 대죄'를 무너뜨린다

루머 반박 : OpenAI의 고위 경영진인 Vox가 입수한 유출된 정보와 문서에 따르면, Altman을 포함하여 이러한 지분 회수 조건을 잘 알고 서명했습니다.

또한 OpenAI가 직면한 심각하고 시급한 문제인 AI 보안이 있습니다.

최근 가장 눈에 띄는 직원 2명을 포함해 보안 관련 직원 5명이 퇴사하고, '슈퍼 얼라인먼트' 팀의 해체로 인해 OpenAI의 보안 문제가 다시 한 번 주목을 받고 있습니다.

Fortune은 OpenAI가 Super Alignment 팀에 컴퓨팅 리소스의 20%에 대한 액세스 권한을 제공하겠다는 약속을 결코 이행하지 않았다고 보고했습니다.

2023년 7월, OpenAI는 인간을 합친 것보다 더 똑똑할 수 있는 미래 인공 지능 시스템을 안전하게 제어할 수 있도록 전담하는 새로운 팀을 설립했습니다. 회사가 이 목표를 얼마나 진지하게 생각하는지 보여주기 위해 당시 사용 가능한 컴퓨팅 리소스의 20%를 해당 노력에 전념하겠다고 공개적으로 약속했습니다.

이 문제에 정통한 6명의 관계자에 따르면, OpenAI가 AI 안전보다 제품 출시를 우선시했다는 비난과 직원 사임으로 인해 1년도 채 되지 않아 "Super Alignment"라는 팀이 해체되었습니다. 팀에 컴퓨팅 성능의 20%를 제공합니다.

그러나 지난 목요일 Indent CEO Fouad Matin은 X와 Reddit에서 "우리는 OpenAI에 합류했으며 AGI를 위한 보안 준비에 전념하고 있습니다!"라고 밝혔습니다. 미래를 확보하려면 훌륭한 팀과 협력해야 합니다. 최첨단 모델 준비부터 고객 데이터 제어까지 AI가 안전하고 모두에게 이익이 되도록 하는 것이 중요합니다."

OpenAI 보안팀이 재편성되어 그렇다면 OpenAI에 막 채용된 Fouad Matin이 개입하여 "건물이 무너지는 것을 구할 수 있을까요?"

Fouad Matin과 그의 팀

일부 "진실을 모르는 사람들"이 Fouad Matin의 게시물 아래에 메시지를 남겼습니다. "우리는 OpenAI에 합류했습니다"에서 "우리"는 누구입니까?

분명히 대답은 "그의 두 반쪽"만큼 간단하지 않습니다. 그가 설립한 Indent는 "안전한 미래 구축"에 전념하는 AI 회사입니다.

현재 Indent는 공식 홈페이지에 "일시 중단 공지"를 게시하여 Indent가 올해 7월에 서비스를 중단한다고 발표했습니다.

우리는 팀이 가장 중요한 것을 보호할 수 있도록 돕는다는 목표로 Indent를 시작했습니다. 우리 고객은 팀의 속도를 늦추지 않고 고객 데이터 및 생산 인프라부터 일상적인 비즈니스 소프트웨어에 이르기까지 모든 것을 보호했습니다.

신중하게 고려한 끝에 매우 어려운 결정을 내렸습니다. Indent는 앞으로 몇 달 안에 종료될 예정입니다. 우리는 고객의 전환을 돕고 이 공통 목표를 향해 계속 노력할 것입니다.

팀은 2024년 7월 15일 오후 12시(PST)까지 신청할 수 있으며 이 시간에는 서비스가 종료됩니다. 감사 로그는 7월 19일까지 제공되며 그 이후에는 데이터 삭제 프로세스가 시작됩니다.

첫 날부터 액세스할 수 있는 초기 단계의 스타트업부터 중요 업무 리소스를 보호하기 위해 Indent를 사용하는 수백 명의 사람들까지 Indent를 사용하는 모든 사람에게 감사를 표하고 싶습니다.

Fouad Matin은 Indent의 공동 창립자이자 CEO입니다. Fouad Matin은 대부분의 회사가 누가 고객 데이터에 액세스했는지 알지 못했고 대부분의 회사에서 이 문제를 발견하는 데 드는 비용이 너무 크다는 사실을 알고 Indent를 설립했다고 말했습니다. 높음, 이 데이터를 잠그는 것은 말할 것도 없습니다. Indent는 사용자 친화적인 액세스 제어를 제공할 수 있습니다. 2021년 12월 Indent는 주문형 액세스 제어를 위해 560만 달러를 모금했습니다.

2018년 Indent를 창립하기 전 Fouad Matin은 3가지 다른 업무 경험을 가졌습니다.

2014년 Fouad Matin은 다른 Lianchuang과 함께 추천 채용 회사를 공동 설립하여 제품, 영업 및 엔지니어링 디자인을 담당했습니다. 첫 번째 Y Combinator 장학금 프로그램 및 YC W16에 참여했습니다.

2016년에 그는 젊은이들이 등록하고 투표할 수 있는 가장 쉬운 방법을 구축하는 데 전념하는 초당파적 비영리 단체를 설립하여 100만 명의 투표를 도왔습니다.

2017년에 그는 Segment에서 엔지니어로 일하면서 고객이 사용자 작업을 구성 파일로 구문 분석할 수 있도록 하는 세그먼트 역할의 제품 및 엔지니어링 개발을 주도했습니다. 더 나은 제품 경험 디자인을 위해 노력합니다.

Fouad Matin이 프로필에서 소개한 것처럼 그는 가끔 스타트업에 투자하는 소프트웨어 엔지니어이자 제품 디자이너입니다. 그는 지난 몇 년간 수백만 명의 사람들이 비영리 단체와 기업이 고객 데이터를 관리하도록 투표하도록 도왔습니다. .

현재 그는 OpenAI에서 보안 업무를 맡고 있습니다. Indent 일몰과 Fouad Matin은 새로운 전문 여행을 시작할 것입니다.

다른 멤버들

푸아드 마틴 트윗 댓글에 2년째 알고 지낸 친구가 축하한다고 하더군요. 이 친구는 푸아드 마틴 외에도 합류한 사람이 있다고 밝혔습니다. OpenAI 보안 팀.

Dan Gillespie는 "AGI 도래에 필요한 보안 컴퓨팅 플랫폼 구축"을 주로 담당할 예정입니다.

공교롭게도 Fouad Matin과 비슷한 점 중 하나는 Dan Gillespie도 투자 경력이 있다는 점입니다. LinkedIn 소개에 따르면 그는 실리콘 밸리에서 가장 부정적인 회사인 Y Combinator에서도 근무했습니다. 유명 스타트업 인큐베이터는 지난 한 해 동안 260개 이상의 AI 스타트업에 투자했으며, 실리콘밸리뿐 아니라 전 세계의 AI 스타트업 트렌드를 벤치마크하는 역할을 하고 있습니다.

왼쪽: 댄 길레스피, 23세

A Bloomberg Opinion 칼럼에서 제안한 "2024년 5월은 AI 안전 운동이 사라진 달로 기억될 것입니다. 동시에 사람들은 또한 5월은 더욱 안전한 AI 작업이 실제로 시작될 때라는 점을 기억하십시오.”

OpenAI는 AI 선도 기업으로서 부정적인 목소리에도 불구하고 진정으로 보다 안전한 시스템 구축을 지속할 수 있을까요? 다른.