AI 기본법 1월 22일 시행: 서비스에 AI를 붙였다면 확인할 것

1월 22일 AI 기본법이 시행됩니다. 대형 AI 회사만의 이야기가 아닙니다. 자사 서비스에 AI 기능을 넣어 제공하는 회사라면 확인할 내용이 있습니다.

이 글은 법률 자문이 아니라, 서비스를 만드는 입장에서 미리 챙길 부분을 정리한 것입니다. 해당 여부에 대한 최종 판단은 전문가와 확인하시기 바랍니다.

핵심은 세 가지

1. 투명성: AI를 이용한 서비스라는 사실을 이용자에게 미리 알려야 합니다.
2. 생성물 표시: 생성형 AI가 만든 결과물에는 AI가 만들었다는 표시가 필요합니다.
3. 고영향 AI: 채용, 대출 심사, 의료처럼 사람의 권리와 안전에 큰 영향을 주는 영역의 AI에는 더 무거운 관리 의무가 있습니다.

정부는 시행 초기의 혼란을 고려해 과태료 부과에 최소 1년의 계도기간을 두겠다고 밝혔습니다. 다만 계도기간은 의무가 없다는 뜻이 아니라 준비할 시간을 준다는 뜻입니다.

개발 관점의 점검 항목

AI가 쓰이는 지점을 목록으로 만듭니다

의외로 많은 회사가 자사 서비스 어디에 AI가 들어가 있는지 한눈에 알지 못합니다. 챗봇, 추천, 자동 요약, 이미지 생성, 외부 API를 통한 기능까지 전부 적어 봅니다.

이용자에게 보이는 표시를 확인합니다

• AI가 응답하는 화면에 그 사실이 표시되는가
• AI가 만든 글·이미지·음성에 표시가 붙는가
• 표시가 내려받은 파일에도 유지되는가

화면 문구 하나로 끝나는 경우도 있고, 결과물 생성 과정에 표시를 넣는 작업이 필요한 경우도 있습니다.

고영향에 해당할 가능성을 살핍니다

사람을 평가하거나 선별하는 기능이 있다면 주의가 필요합니다. 해당될 가능성이 있다면 판단 근거를 기록으로 남기고, 사람이 결과를 검토할 수 있는 절차를 설계해 둬야 합니다.

기록을 남깁니다

어떤 모델을 썼고, 어떤 데이터를 넣었고, 어떤 결과가 나왔는지에 대한 로그는 법과 무관하게 서비스 품질을 위해서도 필요합니다. 지금 남기지 않고 있다면 이번 기회에 넣는 것이 좋습니다.

계도기간을 쓰는 방법

1년은 길어 보이지만, 표시 방식을 정하고 화면을 고치고 기록 체계를 넣는 데에는 시간이 걸립니다. 과기정통부가 운영하는 안내 창구를 활용하면서, 위의 목록 작업부터 먼저 해 두시기를 권합니다.

---

참고 자료

• SK AX: AI 기본법 시행, 기업이 알아야 할 핵심 내용과 대응 전략