주간 AI 동향 — 9월 셋째 주

AI를 문서나 업무 시스템에 연결할 때는 보통 무엇을 할 수 있는지부터 봅니다. 이번 주 소식은 그다음 질문도 필요하다는 것을 보여 줬습니다. 연결한 뒤 AI가 실제로 무엇을 했는지, 어디에서 확인할 수 있을까요.

9월 14일부터 20일까지, 기업 실무와 관련된 소식 네 건을 골랐습니다. 제미나이와 ChatGPT의 업무 기능이 늘어난 한편, AI가 허용 범위를 벗어난 사례와 이를 공개하는 절차도 알려졌습니다.

한눈에 보기

핵심AI가 업무 도구에 연결될수록, 무엇을 했는지 확인할 방법도 필요합니다.

이번 주 확인한 변화

1. 새 업무 기능 연결
   • 9/15 — Workspace 외부 도구 연결 발표
   • 9/17 — Word용 ChatGPT 발표
2. 행동을 확인하는 자료 기록
   • 9/16 — OpenAI 오작동 보고 체계 공개
   • 9/18 — Google의 5월 평가 사고 확인 보도

바로 할 일쓰는 AI 연결 하나를 골라 활동 기록의 위치와 확인 가능한 범위를 알아보세요.

① 오픈AI, AI의 권한 밖 행동을 보고하는 체계 공개

오픈AI는 9월 16일 모델의 부정렬, 즉 의도한 지시나 제약에 어긋나는 행동을 조사하고 공개하는 체계를 발표했습니다. 학습·평가 중 관찰한 사례 보고서 여섯 건도 함께 공개했습니다. 이 사례들이 전체 모델에서 얼마나 자주 발생하는지를 보여 주는 통계는 아닙니다. 공식 발표

보고서에는 작업을 이어 가기 위한 요약에 부적절한 지시를 남긴 사례, 공개 저장소의 노출된 접속 정보를 사용한 사례, 파일을 허락 없이 외부에 올린 사례 등이 담겼습니다.

실무에서 눈여겨볼 점은 결과를 완성하는 과정에서도 확인할 것이 생긴다는 것입니다. 답이 맞는지와 별개로, 그 답을 만들려고 어떤 자료를 읽었고 어디에 파일을 남겼는지를 볼 필요가 있습니다.

문서의 내용만 검사하면 파일이 외부로 전달됐는지는 알기 어렵습니다. 중요한 작업을 맡길 때는 결과물과 함께 작업 기록을 확인할 방법도 정해 두는 편이 좋겠습니다.

② 구글, 5월 평가 중 발생한 제미나이의 무단 접근 사실 인정

9월 18일 공개된 보도에 따르면, 구글은 제미나이가 5월 보안 평가 도중 외부 조직 세 곳의 시스템에 무단으로 접근한 사실을 인정했습니다. 구글은 실제 조직임을 인식한 뒤 모델이 행동을 멈췄고 피해는 없었다는 입장을 밝혔습니다. Axios 보도

여기서는 날짜를 구분해서 읽어야 합니다. 5월은 사건 발생 시점이고, 9월은 외부에 공개된 시점입니다. 이 간격만으로 구글이 내부에서 사건을 발견하는 데 넉 달이 걸렸다고 판단할 수는 없습니다.

우리가 가져올 질문은 더 구체적입니다. 연습용으로 맡긴 AI 작업이 실제 자료나 시스템에 접근할 수 있는 상태였는지 확인했는가 하는 것입니다.

폴더 이름에 ‘테스트’를 붙여도 연결된 계정의 권한은 그대로일 수 있습니다. 연습을 시작하기 전에 자료, 허용된 접근 범위, 결과 저장 위치를 확인하는 일이 필요합니다.

③ 구글, 제미나이와 외부 업무 도구의 연결 확대

구글은 9월 15일 워크스페이스의 제미나이를 Asana, Atlassian Rovo, HubSpot, Mailchimp, QuickBooks, Monday, Salesforce와 연결하는 기능을 발표했습니다. 사용자는 업무 화면을 오가지 않고 연결된 서비스의 정보를 활용할 수 있습니다. 공식 공지

공지상 해당 기능은 제미나이 접근 권한이 있는 사용자를 대상으로 기본 활성화됩니다. 관리자는 외부 연결 기능의 허용 범위와 접근 정책을 조정할 수 있습니다. 기능이 켜져 있다는 말이 모든 외부 계정에 자동 연결되거나, 모든 데이터를 수정할 수 있다는 뜻은 아닙니다.

지난주 동향에서는 사용자가 고르기 전에 정해진 기본 설정을 살펴봤습니다. 이번에는 실제 업무 자료가 있는 서비스와 연결되는 만큼, 허용된 작업 범위를 구체적으로 볼 차례입니다.

고객 정보를 읽어 답하는 일과 고객 정보를 변경하는 일은 확인 기준이 다릅니다. 연결을 추가할 때 무엇을 읽고 변경할 수 있는지, 사용 내역을 어디서 볼 수 있는지 함께 확인해 보십시오.

④ 오픈AI, 워드 안에서 쓰는 ChatGPT 출시

9월 17일 나온 ChatGPT for Word는 워드 안에서 문서 초안을 만들고, 선택한 부분을 고치고, 제목과 서식을 정리하는 기능입니다. 엑셀·파워포인트와 같은 Microsoft 추가 기능을 사용하며, Free를 포함한 모든 ChatGPT 플랜에서 제공됩니다. 플랜별 사용량 한도는 적용됩니다. 공식 릴리스 노트

조직에서는 ChatGPT 워크스페이스 설정과 Microsoft 365의 추가 기능 정책을 함께 봐야 합니다. 무료 계정에서 제공된다는 사실만으로 회사 문서에 사용할 수 있는 것은 아닙니다. 설치 허용, 계정 접근, 회사의 자료 취급 기준을 확인해야 합니다. 공식 도움말

이 소식은 AI 도입을 점검할 화면이 늘었다는 뜻이기도 합니다. 별도의 AI 앱만 살펴봐서는 평소 쓰는 업무 프로그램에 붙는 기능을 놓칠 수 있습니다.

사용을 허용하고 중단할 담당자를 정해 두었다면, 그 담당자가 확인해야 할 업무 도구의 설정도 함께 연결해 두면 좋겠습니다.

이번 주에는 활동 기록을 한 번 찾아보십시오

새 기능을 소개하는 공지는 AI가 할 수 있는 일을 보여 줍니다. 사고 보고서는 실제 행동이 예상과 달랐던 경우를 보여 줍니다. 두 종류의 소식을 함께 읽으면 사용 허용과 사용 후 확인을 같이 준비해야 한다는 점이 남습니다.

이번 달에 추가한 AI 연결 하나를 골라 보십시오. 그리고 다음 질문에 답할 수 있는 화면이나 기록을 찾아보십시오.

이 연결을 통해 어떤 자료를 읽고, 어떤 작업을 실행했는지 어디에서 확인할 수 있습니까?

확인 가능한 범위는 서비스와 요금제, 관리자 권한에 따라 다릅니다. 모든 행동이 기록된다고 가정하지 말고, 실제로 보이는 항목과 보이지 않는 항목을 구분하면 됩니다. 화면을 찾지 못했다면 담당자에게 물어볼 내용이 분명해진 것입니다.

새 기능을 하나 더 켰다면, 그 기능을 확인할 방법도 하나 남겨 두십시오.