- 캘리포니아 의회가 해고와 징계를 프로그램 판단에만 맡기지 못하게 하는 법을 8월 31일에 최종 통과시켰어요.
- 사람이 한 번 확인하고, 프로그램을 썼다는 사실을 쉬운 말로 당사자에게 알려야 해요.
- 개빈 뉴섬 주지사가 9월 30일에 서명해 법이 됐어요. 작년에는 비슷한 법이 거부로 막혔는데, 이번에는 넘었어요. 시행은 2027년 7월 1일부터예요.
안녕하세요, 제시예요. 구독자님 회사에서 누가 일을 덜 했는지, 누가 자리를 자주 비웠는지를 사람이 아니라 프로그램이 세고 있다면 어떠세요? 미국 캘리포니아에서는 그 프로그램이 해고까지 정하는 일을 막는 법안이 의회를 통과했어요. 그리고 9월 30일, 주지사가 서명해 법이 됐어요.
사람 대신 점수를 매기는 프로그램이 있어요
회사가 쓰는 프로그램 중에는 사람의 판단을 대신하는 것이 있어요. 출퇴근 기록, 처리 건수, 고객 평점 같은 것을 모아 점수를 내고, 이 사람은 이렇게 하는 게 좋겠다는 결론까지 내놓아요. 미국에서는 이런 것을 자동결정시스템이라고 불러요. 영어 머리글자를 따서 ADS라고 적기도 해요.
법안이 정한 뜻은 꽤 넓어요. 기계학습이든 통계 모델이든 데이터 분석이든, 점수나 추천을 내놓아 사람의 판단을 돕거나 대신하면 전부 여기 들어가요. 요즘 화제인 큰 AI 모델만 걸리는 게 아니라, 예전부터 인사팀이 쓰던 점수표 프로그램도 함께 걸린다는 뜻이에요. 스팸 메일 거르개나 백신 프로그램 같은 것은 따로 빼 뒀어요.
이름이 로봇 상사 금지법이에요
법안 번호는 SB 947이고, 별명이 No Robo Bosses Act of 2026이에요. 우리말로 옮기면 로봇 상사 금지법쯤 돼요. 제리 맥너니 주 상원의원이 올해 2월 2일에 냈어요.
그 뒤로 걸음은 이랬어요.
| 날짜 | 무슨 일 | 표결 |
|---|---|---|
| 5월 19일 | 상원 통과 | 찬성 29 · 반대 9 |
| 8월 30일 | 하원 통과 | 찬성 53 · 반대 14 |
| 8월 31일 | 상원이 하원 수정안에 동의 | 찬성 28 · 반대 10 |
| 9월 9일 | 주지사에게 넘어감 | |
| 9월 30일 | 주지사 서명 |
8월 31일은 이번 회기에 각 원이 법안을 통과시킬 수 있는 마지막 날이었어요. 그날에 맞춰 의회 쪽 관문은 다 넘었어요.
요구하는 것은 두 가지예요
하나, 사람이 한 번 확인한다
병원의 자동 혈압계를 떠올려 보세요. 기계가 숫자를 내놓지만 진단은 의사가 해요. 법안이 요구하는 것이 딱 그 자동 혈압계 방식이에요. 프로그램이 이 사람은 징계 대상이라고 내놓아도, 회사는 그 결론에만 기대 해고나 징계를 정할 수 없어요.
프로그램 결론에 주로 기댔다면 사람이 따로 확인해야 해요. 확인할 거리도 법이 예로 들어 뒀어요. 상사의 평가, 인사 기록, 실제로 해 온 일, 동료 평가, 관련된 사람과의 면담 같은 것들이에요. 사람이 봤는데 맞아떨어지지 않거나, 프로그램 결론이 틀렸다고 판단하면 그 결론은 쓰면 안 돼요.
프로그램을 쓰지 말라는 법이 아니에요. 프로그램만 보고 끝내지 말라는 법이에요. 지금은 화면에 뜬 순위표를 그대로 결재해도 아무도 뭐라 하지 않거든요.
둘, 프로그램을 썼다는 걸 알려준다
프로그램 결론에 주로 기대 징계나 해고를 정했다면, 그 결정을 알리는 자리에서 따로 서면 안내를 줘야 해요. 쉬운 말로, 평소 회사가 직원에게 쓰는 언어로요. 들어갈 내용은 넷이에요.
- 썼다는 사실이 결정에 자동결정시스템에 주로 기댔다는 것
- 사람의 확인사람이 검토해서 그 결론을 확인했다는 것
- 물어볼 사람더 알고 싶을 때 연락할 사람과, 내 자료가 어떻게 쓰였는지 설명을 받을 권리
- 보복 금지이 권리를 썼다고 불이익을 주면 안 된다는 것
노동자가 먼저 요청할 수도 있어요. 그 결정에 쓰인 자기 자료가 무엇이었는지, 객관적인 설명을 달라고 할 수 있어요. 이때 다른 직원이나 고객의 개인정보는 가려서 줘야 해요.
아예 못 하게 막은 것도 있어요
사람이 확인하면 되는 앞의 두 가지와 달리, 이쪽은 사람이 봐도 안 되는 일이에요.
- 노동법이나 차별 금지법을 피해 가거나 어기는 데 쓰는 것
- 인종이나 종교, 성별처럼 법으로 보호되는 특성을 자료로 추측하는 것
- 법에 보장된 권리를 쓸 사람을 미리 짚어 내 불이익을 주는 것
마지막 줄이 특히 눈에 띄어요. 누가 노조를 만들지, 누가 문제를 제기할지를 예측하는 데 쓰지 말라는 뜻으로 읽혀요.
어기면 어떻게 되나요
위반 한 건에 500달러예요. 액수만 보면 크지 않은데, 세는 단위가 건이라 대상이 많아지면 금방 불어나요. 법원에 가면 징벌적 손해배상과 변호사 비용이 따로 붙을 수도 있고요.
나서는 쪽은 주 노동위원장과 검사예요. 그리고 다툼이 생기면 증명하는 쪽이 회사예요. 프로그램을 썼다는 것이 드러나면, 회사가 거기에만 기대지 않았다는 것이나 사람 확인과 안내를 제대로 했다는 것을 보여줘야 해요.
법안을 후원한 곳이 캘리포니아 노동조합총연맹이라는 점을 생각하면 이 구조가 이해가 가요.
작년에 한 번 엎어졌던 이야기와 고쳐 쓴 횟수 더 보기
이 법안은 처음이 아니에요. 지난해 SB 7이라는 이름으로 거의 같은 내용이 상원과 하원을 모두 통과했는데, 개빈 뉴섬 주지사가 거부권을 행사하면서 법이 되지 못했어요.
올해 다시 낸 법안은 그때보다 훨씬 여러 번 고쳐 썼어요. 3월 26일, 4월 22일, 5월 14일에 상원에서 세 번, 6월과 7월에 하원에서 네 번, 그리고 8월 21일에 한 번 더예요. 반년 남짓한 사이에 여덟 번을 손본 셈이에요. 지난번에 거부당한 법안이 이번에 어디까지 좁혀졌는지를 보여주는 숫자이기도 해요.
8월 21일 수정본이 그대로 최종본이 됐어요. 의회를 통과한 최종 문안은 9월 4일에 정리돼 나왔어요.
우리나라는 어떤가요
한국에도 관련 법이 있어요. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법인데, 줄여서 AI 기본법이라고 불러요. 올해 1월 22일에 시행됐어요.
여기에는 고영향 인공지능이라는 칸이 있어요. 잘못 돌아가면 사람에게 큰 영향을 주는 분야를 따로 묶어둔 것이고, 채용이 그 안에 들어가요.
다만 향하는 방향이 조금 달라요. 우리 법은 이런 AI를 쓰려면 안전 조치를 하고 알리라는 쪽이고, 캘리포니아 법안은 해고와 징계에서만큼은 사람이 반드시 한 번 확인해야 한다는 쪽이에요. 그리고 우리 정부는 시행 초기의 혼란을 줄이려고 한동안은 과태료보다 계도를 앞세우겠다고 밝혔어요.
주지사가 서명했어요
법안은 9월 9일에 뉴섬 주지사 책상에 올라갔어요. 주지사가 정할 수 있는 마지막 날이 9월 30일이었는데, 바로 그날 서명했어요. 작년에 같은 주지사가 거의 같은 법안을 거부했던 걸 생각하면, 이번에는 결과가 달라진 거예요.
서명했다고 바로 힘을 갖는 건 아니에요. 최종본은 시행일을 2027년 7월 1일로 못 박았어요. 회사들이 프로그램과 안내문을 고칠 시간을 9개월 남짓 준 셈이에요.
캘리포니아 주법이라 우리나라 회사에 바로 걸리지는 않아요. 그런데 인사 관리 도구를 만드는 회사들이 거기 몰려 있다는 점이 중요해요. 팔 물건에 사람 확인 기능과 안내 기능이 기본으로 들어가기 시작하면, 그 기능이 붙은 제품이 결국 우리에게도 팔려요. 유럽의 개인정보 규칙이 우리가 쓰는 웹사이트의 동의 창을 바꿔놓은 것과 비슷한 길이에요.
다시 그 자동 혈압계 이야기로 돌아가 볼게요. 기계가 숫자를 내놓는 것 자체는 아무도 말리지 않아요. 문제는 그 숫자 옆에 사람이 앉아 있느냐예요. 오늘 해볼 수 있는 건 하나예요. 지금 다니는 회사가 쓰는 인사 프로그램이 무엇을 점수로 세고 있는지, 그리고 그 점수를 누가 읽고 있는지 한 번 물어보는 거예요.
출처
