CIO가 AI로 인해 발생하는 인지된 위험을 해결하는 방법

일반 CEO들은 AI의 가장 큰 위험은 기회를 놓치는 것이라고 믿습니다. 특히 경쟁업체가 AI 기반 비즈니스 기능을 자신보다 먼저 구현할 수 있기 때문입니다.

CIO로서 실제 AI 위험을 고려하고 잠재적인 위험도 예측해야 합니다. 이를 효과적으로 달성하는 방법은 다음과 같습니다.

보통 사람들이 인지하는 위험

1. AI가 인간에게 영향을 미칠까요? 답변: 이것은 위험이 아니라 선택입니다. 개인용 컴퓨터, 인터넷, 스마트폰은 모두 컴퓨터로 증강된 인간에게 기회를 열었습니다. AI도 동일한 작업을 수행할 수 있으며, 비즈니스 리더는 AI 기능을 사용하여 직원을 강화하고 역량을 강화함으로써 더욱 강력하고 경쟁력 있는 비즈니스를 구축하는 데 집중할 수 있습니다.

어떤 사람은 그럴 수도 있고, 다른 사람은 AI를 사용하여 현재 고용한 인간이 수행하는 작업을 자동화할 것입니다.

또는 두 가지 모두를 수행할 가능성이 높으며, 둘 다 절대적인 의미에서 더 나을 수는 없지만 다를 것입니다. CIO로서 당신은 AI가 직원을 추가하거나 교체하는 데 사용되는지 여부에 관계없이 회사의 의도를 전달하는 데 도움을 주어야 합니다.

스카이넷은 사람들을 전율하게 만드는 가능한 AI 미래 중 하나이지만, 가장 가능성이 낮은 시나리오로도 간주됩니다. 킬러로봇을 만드는 것이 불가능해서가 아니라, 그런 파괴적인 인공지능을 만들고 투자할 이유가 없기 때문이다.

자연에서 다른 유기체를 잡아먹는 것은 대부분의 유기체의 생존 요구 사항 중 하나입니다. 포식자는 먹이의 생존과 번식 능력을 보장하기 위해 먹이를 쫓습니다. 그러나 인간 외에는 단지 재미로 다른 종에게 해를 끼치는 생물은 거의 없습니다. 이 동작은 드물며 일반적으로 사람의 개입이나 환경 손상으로 인해 발생하는 비정상적인 동작입니다. 자연의 상호의존과 균형은 먹이와 먹이의 관계를 유지하게 하며, 모든 생명체는 이 생태계에서 중요한 역할을 합니다

전기, 반도체 분야 외에도 우리는 의지가 강한 관계를 찾을 수 있을까요? AI? 자원 경쟁이 너무 치열해 킬러 로봇 시나리오가 우리가 직면해야 할 문제가 될 것이며 여전히 의문의 여지가 남아 있습니다.

AI가 전력, 반도체 분야에서 우리와 경쟁한다면 킬러 로봇을 만드는 데 자원을 낭비할 가능성이 줄어들기 때문입니다.

3. Deepfakes, 네, deepfakes는 문제이고, 현실 전쟁의 정점으로서 점점 더 악화될 문제입니다. deepfake AI와 deepfake 감지 AI는 점점 더 빨라져야 할 것입니다. 개선은 단지 유지하는 것뿐입니다. 서로의 상태.

따라서 맬웨어 대책이 독립형 바이러스 백신 대책에서 업계 전반의 사이버 보안으로 진화한 것처럼, 현실과의 전쟁이 가열되면서 딥 페이크 대책도 비슷한 궤적을 기대할 수 있습니다.

CEO가 인식하는 AI 위험

곧 전직 CEO가 되기를 원하지 않는 CEO는 일종의 "TOWS" 분석(위협, 기회, 약점 및 강점)에 상당한 시간과 관심을 쏟게 될 것입니다.

CIO로서 오랫동안 가장 중요한 책임 중 하나는 IT 기반 기능부터 비즈니스 기회(비즈니스가 이를 가장 먼저 활용하는 경우) 또는 위협( 경쟁사가 먼저 이를 악용하는 경우).

그것은 현재 AI 열풍이 IT 산업을 장악하기 이전에도 그랬고, 그것이 바로 '디지털'의 전부였고, 지금은 더욱 그렇습니다.

AI와 결합하여 CIO에게는 새로운 기능을 전체 비즈니스에 통합하는 방법이라는 또 다른 책임 계층이 있습니다.

조용한 AI 기반 위협: 인공 인간의 약점

"인공 인간의 약점"이라는 관심을 거의 받지 못하는 위험 범주도 있습니다.

Daniel Kahneman의 생각에서 빠르고 천천히 시작해보세요. 이 책에서 Kahneman은 우리가 생각하는 두 가지 방식을 식별합니다. 우리가 빨리 생각할 때, 우리는 지체 없이, 거의 노력하지 않고도 한 눈에 사물을 이해할 수 있게 해주는 뇌 회로를 사용합니다. 빨리 생각하는 것은 우리가 "자신의 용기를 믿을" 때 하는 일이기도 합니다.

천천히 생각할 때 우리는 17을 53으로 곱할 수 있는 회로를 사용합니다. 이 과정에는 상당한 집중력, 시간 및 두뇌 능력이 필요합니다.

AI의 경우, 느린 사고는 전문가 시스템이 하는 일이고, 그 점에서 구식 컴퓨터 프로그래밍이 하는 일은 빠른 사고가 AI의 가장 흥미로운 점이며, 그것이 바로 신경망의 목적입니다.

현재 개발 상태에서 AI의 빠른 사고 형태는 직관을 신뢰하는 것과 동일한 인지 오류를 일으키기 쉽습니다. 예를 들면 다음과 같습니다.

상관 관계에서 인과 관계 추론: 우리 모두는 이렇게 하면 안 된다는 것을 알고 있지만, 모든 증거가 병치되어 있을 때 인과 관계 추론을 중단하는 것은 어렵습니다.

공교롭게도 오늘날 AI라고 불리는 것은 크게 상관관계를 통해 인과관계를 추론하는 신경망의 머신러닝으로 구성됩니다.

말로 돌아가서: The Great British Baking Show를 시청하셨습니다. 한 에피소드에서 스타 베이커 상을 수상한 사람은 다음 에피소드에서 더 나빠지는 경향이 있다는 것을 알 수 있습니다. 이는 스타 베이커의 저주입니다.

그냥 저주가 아니라 무작위로 행동하는 것일 뿐입니다. 모든 빵 굽는 사람의 성과는 종형 곡선을 따르며, 일주일 안에 스타 베이커를 이기면 성과가 종형 곡선의 한쪽 꼬리에 도달하고, 다음번에 빵을 구울 때, 그들은 다시 Star Baker Tail이 아닌 평균 수준의 성능을 발휘할 가능성이 가장 높습니다. 왜냐하면 빵을 구울 때마다 승리하는 테일이 아닌 평균 수준의 성능을 발휘할 가능성이 가장 높기 때문입니다.

머신러닝 AI가 이러한 오류에 면역될 것이라고 기대할 이유가 없습니다. 반대로 무작위 프로세스 성능 데이터 포인트에 직면하면 AI가 각각의 나쁜 결과 후에 개선 사항을 예측할 것이라고 기대해야 합니다.

그런 다음 원인과 결과가 작용한다고 결론내리세요.

"당신의 작업을 보여주세요"가 아닙니다: 글쎄요, 그것은 당신의 일이 아니라 AI의 일입니다. 소위 '설명 가능한 AI'를 개발하기 위한 활발한 연구가 필요합니다.

가능한 사업 기회를 평가하고 당신에게 행동 방침을 추천하도록 직원을 배정했다고 가정해 보세요. 그러면 그들이 그렇게 할 것이고 당신은 "왜 그렇게 생각하시나요?"라고 묻는다면 유능한 직원이라면 누구나 이런 질문을 할 것입니다. 그에 대한 대답을 준비했습니다.

"설명 가능한 AI"가 희망 목록이 아닌 기능이 될 때까지 AI는 많은 기업에서 대체하기를 원하는 직원보다 이 분야에서 능력이 떨어집니다. 그들은 자신의 생각을 설명할 수 없습니다.

무시해야 할 문구

AI의 맥락에서 누군가가 "컴퓨터는 x를 절대 알 수 없다"고 주장하는 것을 들어보셨을 것입니다. 여기서 x는 가장 숙련된 인간이 잘하는 것입니다.

그들이 틀렸습니다. 이것은 제가 이 사업을 처음 시작할 때부터 대중적인 주장이었으며 그 이후로 어떤 x를 선택하든 컴퓨터는 무엇이든 할 수 있고 우리보다 더 잘할 수 있다는 것이 분명해졌습니다.

유일한 질문은 그 일이 일어날 때까지 얼마나 기다려야 하는가입니다.