2023년 인공지능이 조직에 힘을 실어줄 수 있는 방법

2022년 말 ChatGPT가 출시된 이후 인터넷은 다양한 비관적 감정과 낙관적 감정으로 가득 차 있었습니다. 좋든 싫든 인공지능이 개발팀에 찾아옵니다. AI 제품을 개발하거나 AI를 사용하여 코드 작성을 위한 봇을 개발할 계획이 없더라도 수동으로 작성된 소스 코드를 구축, 테스트 및 실행하는 데 사용되는 도구 및 플랫폼에 AI를 통합할 수 있습니다.

AI 도구는 고유한 위험을 초래합니다. 더욱이 이러한 위험은 한때 인간의 두뇌가 필요했던 작업 자동화의 엄청난 생산성 이점을 상쇄할 수 있습니다. 이러한 위험은 AI의 훈련, 구축, 호스팅 및 사용 방식에서 발생하며, 이 모든 방식은 현재 개발자가 사용하는 다른 소프트웨어 도구와 다릅니다. 위험을 이해하는 것은 이를 관리하는 첫 번째 단계이며, 곧 출시될 AI 도구와 관련된 잠재적 위험을 이해하는 데 도움을 주기 위해 AI 온보딩 프로세스의 일부로 간주될 수 있는 몇 가지 인터뷰 질문을 작성했습니다.

이 질문은 AI의 유형이나 사용 목적에 관계없이 질문해야 합니다.

1. 당신이 선택한 인공지능 서버는 어디에 호스팅되나요?

현대 AI는 오늘날 헤드라인에서 볼 수 있는 놀라운 작업을 수행하기 위해 전문적이고 값비싼 하드웨어가 필요합니다. 새로운 데이터 센터를 확보할 계획이 아니라면 AI 로봇은 원격으로 작업하며 원격 액세스 및 오프사이트 데이터 스토리지를 사용하는 원격 작업자와 동일한 보안 고려 사항이 필요합니다.

코드가 경계를 벗어날 때 IP 손실을 방지하기 위해 어떤 보호 장치가 마련되어 있나요? 스마트 TV부터 자동차까지 모든 것이 제조업체에 사용 데이터를 보고합니다. 일부는 소프트웨어를 개선하기 위해 이 데이터를 사용하지만 다른 일부는 이를 광고주에게 판매합니다. AI 도구가 기본 임무를 위해 소스 코드 또는 기타 개인 데이터를 사용하거나 처리하는 방법을 정확히 이해하십시오.

2. 귀하의 의견이 향후 인공 지능 교육에 사용됩니까?

AI 모델의 지속적인 교육은 소유자와 모델 교육에 데이터를 사용하는 사람들의 관심이 증가하는 영역이 될 것입니다. 예를 들어 소유자는 광고주가 고객에게 유리한 방향으로 AI 봇을 편향시키는 것을 방지할 수 있습니다. 자신의 작품을 온라인에 공유하는 아티스트는 AI 이미지 생성 봇에 의해 자신의 스타일이 복사되었으며, 원본 작가의 신원이 손실되거나 도난당할 것을 우려하고 있습니다.

3. 결과는 얼마나 정확합니까?

ChatGPT의 가장 유명한 단점은 결과가 부정확하다는 것입니다. 거짓인 것을 진실이라고 자신있게 주장할 것입니다. 이를 인공지능의 '환상'이라 부른다. AI가 환각을 일으키는 방법과 위치를 이해하면 환각을 관리하는 데 도움이 됩니다.

그 외에도 AI 소유자와 개발자는 각자의 보안 문제를 안고 있을 것입니다. 이러한 새로운 우려 사항에는 AI 훈련 모델에 대한 위협이 포함됩니다. 이러한 위협은 결과를 훼손하거나 모델 작동 방식에 대한 독점 정보를 공개할 수 있습니다. 또한 AI 모델은 안전하게 구축해야 하는 API, 웹, 모바일 및 기타 애플리케이션과 인터페이스해야 합니다.

개발자는 소프트웨어 개발 중에 발생하는 위험을 관리하기 위해 AI 보안 스캐너와 같은 AI 도구를 사용할 때 구체적인 질문을 해야 합니다.

4. AI 도구가 이 사용 사례에 가장 적합합니까?

AI가 잘하는 것과 못하는 것을 이해하는 것이 핵심입니다. 작업은 "학습된 규칙을 기반으로 결정을 내리는 것" 또는 "학습된 규칙을 통과하는 콘텐츠 작성"으로 더 세분화될 수 있으며, AI가 이를 더 잘 수행할 것입니다. 문제가 벗어날수록 AI의 성능은 저하됩니다.

도구가 콘텐츠를 캡처하지 않거나 콘텐츠가 존재하지 않는다는 착각을 불러일으키는 경우 어떤 보호 장치가 마련되어 있나요?

프로세스에 단일 실패 지점, 특히 환각을 일으킬 수 있는 실패 지점을 도입하지 마세요. 한 계층에서 문제를 놓치더라도 다음 계층에서 이를 포착하는 전통적인 심층 방어 방식 또는 "스위스 치즈" 접근 방식을 사용하여 위험을 관리합니다.

검토 도구 결과를 모니터링하려면 무엇이 필요합니까? 이 문제는 실제로 새 병에 담긴 오래된 와인에 불과합니다. 전통적인 일지 작성 지침은 두 부분으로 나뉩니다. 첫 번째 부분은 중요한 이벤트의 데이터를 캡처하는 것이고 두 번째 부분은 감사 로그입니다. AI가 더욱 성숙해지고 그 단점이 이해되거나 완화될 때까지 인간은 워크플로의 핵심으로 남아 있을 것입니다.

점점 더 많은 개발자가 소스 코드 작성을 위해 ChatGPT를 "고용"하고 있습니다. 예비 보고서에 따르면 ChatGPT는 다양한 프로그래밍 언어로 소스 코드를 작성할 수 있으며 모든 공통 언어와 공개적으로 논의되는 언어에 능통합니다. 그러나 이 베타의 훈련 및 모델 제한으로 인해 생성되는 코드가 항상 완벽하지는 않습니다. 종종 여기에는 소프트웨어 작동 방식을 변경할 수 있는 비즈니스 논리 결함, 소프트웨어의 여러 버전을 병합할 수 있는 구문 오류 및 사람이 만든 것처럼 보이는 기타 문제가 포함되어 있습니다. 즉, ChatGPT는 주니어 개발자입니다. 이 후배 개발자가 작성한 코드를 사용할 때는 이를 관리하는 방법을 고려해야 합니다.

누가 코드의 관리인이 되어 코드가 기능적이고 최적화 가능하며 고품질이며 보안 표준을 충족하는지 확인합니까? 주니어 개발자에게는 시니어 개발자의 지도가 필요합니다. 모든 코드 줄을 테스트해야 하며 일부 코드는 수정해야 합니다. 그러나 예비 보고서에 따르면 이 교정 프로세스는 처음부터 코드를 작성하는 것보다 빠르고 쉽습니다.

5. 코드베이스에 교육 코드를 주입하거나 리믹스합니까?

더 교활한 위협은 때때로 GitHub Copilot과 같은 AI 봇이 훈련 데이터에서 코드 블록을 완전히 복사하는 소스 코드를 생성한다는 것입니다. 이를 위해서는 저작권 위험을 관리하기 위한 표절 방지 도구가 필요합니다.

6. 로봇은 훈련 데이터를 어디서 얻나요?

인공지능 모델의 품질은 훈련 데이터에 따라 달라집니다. 오래되거나 잘못된 코드로 봇을 교육하는 경우 오래되고 잘못된 결과도 생성됩니다.

7. 엔진은 어디에 호스팅되나요?

마찬가지로 소스 코드를 분석하는 AI 로봇은 소스 코드를 처리 시설로 가져와야 합니다. 데이터가 회사를 떠난 후 어떻게 보호, 사용 및 처리되는지에 특별한 주의를 기울이십시오.

ChatGPT의 12월 릴리스는 소프트웨어 개발의 새로운 시대를 예고합니다. 이러한 변화로 인해 좌절하기보다는 이에 적응하는 것이 중요합니다. 이러한 새로운 도구를 채택할 때 더 많은 변화가 있을수록 한 가지 원칙은 동일하게 유지된다는 점을 이해하십시오. 보안 사고로 인해 넘어지는 것보다 예방하는 것이 더 좋습니다.

출처: www.cio.com

위 내용은 2023년 인공지능이 조직에 힘을 실어줄 수 있는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!