미국 뉴욕시 전경
[시티타임스=미국/북중남미] 미국 뉴욕시가 시정과 행정 업무에 인공지능(AI)을 사용할 계획을 발표했다.
뉴욕시의 기관들은 식중독 발생을 추적하거나, 범죄 경향을 분석하는 등 30개 이상의 알고리즘 도구를 사용하고 있다고 보고했다. 단, 뉴욕시는 알고리즘의 편향성이나 잘못된 정보, 개인정보 보호 문제가 발생할 소지가 있다며 해당 기술에 대한 관리정책도 수립할 계획이다.
뉴욕시 최고기술책임자인 매튜 프레이저는 “AI 기반한 솔루션만 제공해서는 안된다. 이를 오용할 수 있는 가능성과 부정확성을 알리고, 편견과 차별할 위험을 완화할 수 있는 틀까지 제공해야 한다”고 밝혔다. 뉴욕시는 AI 관련 규칙과 규정을 수립하기 위해 일반 시민을 대상으로 의견을 듣고 시 산하 기관을 대상으로 업무에 AI를 사용하는 방법을 설명할 계획이다.
뉴욕시는 웹사이트 ‘마이 시티 비즈니스(Mycity business)’에서 법인 개설과 운영에 관해 답변해주는 AI 챗봇을 시범 운영한다. 챗봇은 2천쪽이 넘는 정보를 학습해 규정 준수, 대출이나 자격증 등에 대한 질문에 답변해준다. 뉴욕시 중소기업 서비스 담당자 케빈 킴은 기자회견에서 “필요한 정보를 찾기 위해 인터넷 검색을 하거나 여러 사이트를 방문하지 않아도 된다. 기다릴 필요도 없고, 24시간 연중무휴로 이용할 수 있다”고 밝혔다.
한편 전문가들은 알고리즘 도구에 기반해 정책적 결정을 내리다 보면 알고리즘 학습 데이터에 편견이 반영되어 불공정한 결과가 나올 수도 있다고 경고한다. 특히 고용, 주택, 치안 유지에 AI 도구를 사용하면 여성과 유색인종에 대한 차별을 조장할 수 있다는 것이다. AI가 노동력을 대체하다 보면 인력 부족은 해결 가능해도 반대로 사람들의 일자리를 뺏을 수도 있다. 이런 문제 해결을 위해 뉴욕시는 알고리즘 규칙을 정하고 내년에 AI 도구에 대한 위험도 평가 과정을 만들 계획이다.
올해 뉴욕시는 정부 대표와 외부 전문가 자문역들로 구성된 AI 운영 위원회를 만들 예정이다. 뉴욕시의 계획 수립에 참여한 전문가들은 AI 기술의 잠재력에 대해 긍정적이다. ‘테크NYC’의 대표인 줄리 새뮤얼스는 “뉴욕과 같은 큰 도시를 운영하면서 더 많은 사람에게 더 많은 혜택을 제공하려면 AI가 큰 도움이 될 것”이라고 밝혔다.
뉴욕대 연구교수인 스테판 버훌스트는 "예산이 부족한 상황에서 AI를 통해 적은 자원으로 신속하게 의사 결정을 내릴 수 있다"고 설명했다. 그는 자료를 통해 저렴한 주택이 필요한 지역을 파악하고, 공중 보건 비상사태에 대응하는 등의 사례를 예로 들었다.