AI insiders sound the alarm on safety
발언자
Deirdre Bosa
— 앵커/리포터, CNBC Tech Check
Kelly Evans
— The Exchange (CNBC) 앵커
• AI 안전에 대한 "내부 시민 전쟁"이 공개되어 섹터에 분기를 만들었습니다: Anthropic은 "안전 우선" 대안(가드레일을 위한 2천만 달러 슈퍼 PAC)으로 포지셔닝하는 반면, OpenAI와 Andreessen Horowitz는 규제 완화와 속도(연방 선점을 위한 1억 2,500만 달러 PAC)를 추진하고 있습니다.
• OpenAI와 xAI에서는 안전 연구원의 "두뇌 유출"과 전담 안전 팀 해체로 인해 운영 위험이 증가하고 있습니다.
• "터미네이터형 공포"가 다시 표면화되고 있으며, 모델이 자체 개선(자체 코드 작성) 능력을 입증함에 따라 주요 안전 실패가 발생할 경우 심각한 규제 조사가 촉발될 수 있습니다.
아이디어
Anthropic은 어린이 안전, 칩 수출 통제, 투명성 규칙 같은 안전 장치를 지원하기 위해 슈퍼 PAC에 2천만 달러를 기부했습니다. Bosa는 이것이 '브랜드 정체성에 부합'하며 '차별화에 도움이 된다'고 언급합니다. '자기 개선 모델'과 '터미네이터 공포'에 대한 시장의 우려가 증가함에 따라, Anthropic은 자신을 '회의장의 어른'으로 포지셔닝하여 전략적 해자를 구축하고 있습니다. 규제가 강화되면(반발로 인해 그럴 가능성이 있음), Anthropic은 규정을 준수하고 위험 회피 성향의 고객으로부터 기업 시장 점유율을 확보하는 데 가장 유리한 위치에 있습니다. 롱(전략적 포지셔닝/브랜드 자산). 과도한 규제가 경쟁사 대비 혁신 속도를 저해할 수 있습니다. '중국 논리'(속도가 국가 안보에 필요)가 워싱턴에서 승리할 수 있습니다.
OpenAI는 안전 팀을 해체했고, 연구원들은 "윤리적 우려"를 이유로 사임하고 있으며, 회사는 주 규제를 막기 위해 PAC에 1억 2,500만 달러를 쏟아 붓고 있습니다. 회사는 속도와 지배력(광고와 성장의 "페이스북 플레이북")을 공격적으로 우선시하고 있습니다. 이는 단기적 진전을 이끌지만, "내부 내전"과 핵심 인재 손실은 상당한 평판 및 운영 꼬리 위험을 만듭니다. 안전 사고가 발생하면, OpenAI는 규제 기관의 주요 타겟이 될 것입니다. WATCH (높은 규제 및 실행 위험). 성공적인 규제 완화 로비는 그들이 방해받지 않고 리드를 강화할 수 있게 할 수 있습니다.
xAI는 '안전을 담당했던 공동 창업자를 잃었으며' 현재 '전담 안전 기능이 없습니다.' OpenAI와 마찬가지로 xAI는 속도를 극대화하기 위해 안전 브레이크를 제거하고 있습니다. 이는 모델에서 치명적인 오류 또는 '환각' 가능성을 높이며, Bosa는 '모델이 스스로 개선되기 시작했기 때문에 지금은 결과가 중요하다'고 지적합니다. 관망(안전성/꼬리 리스크). 안전 장치 부족으로 제품 실패가 발생하여 정부 단속을 초래합니다.
전 OpenAI 연구원은 ChatGPT에 광고를 넣는 것이 '페이스북 플레이북의 재탕'이라고 경고했습니다. 안전/윤리에 대한 경고로 의도되었지만, 이 비교는 AI에 대한 광고 지원 수익 모델을 암묵적으로 검증합니다. 이는 업계가 재정적으로 입증되었지만 정치적으로 민감한 Meta의 수익화 구조로 이동하고 있음을 시사합니다. 중립(맥락적 참조). 광고 기반 AI 모델에 대한 규제 조사.
