[연사 소개2] 알고리즘 책임 글로벌 운동을 주도하는 프랭크 패스콸리를 만나봤습니다! > 공지사항

본문 바로가기
사이트 내 전체검색
한겨레경제사회연구원 바로가기

공지사항

알림

HOME     알림

[연사 소개2] 알고리즘 책임 글로벌 운동을 주도하는 프랭크 패스콸리를 만나봤습니다!

페이지 정보

profile_image
작성자 최고관리자
댓글 0건 조회 2,702회 작성일 23-12-01 10:45

[연사 소개2] 알고리즘 책임 글로벌 운동을 주도하는 프랭크 패스콸리를 만나봤습니다!

작성일 23-12-01 조회수 2,702

본문

공유하기

  • 구글플러스로 공유
  • 페이스북으로 공유
  • 트위터로 공유
5426_1684366273.jpeg
사진: The University of Melbourne 홈페이지
프랭크 패스콸리(Frank Pasquale)

"챗GPT시대, 인간과 인공지능 공존의 조건"을 이야기하는 제2회 한겨레 사람과디지털포럼에 참여하는 연사를 매주 한 명씩 소개합니다. 본 콘텐츠는 사실을 기반으로 작성한 가상 인터뷰 콘텐츠입니다.
5426_1684366318.jpg
프랭크 패스콸리

  • 미국 브루클린대학 로스쿨 교수

  • 미국 인공지능 자문위원회 위원

  • 예일대 로스쿨 JD, 옥스포드대 정치학 M.Phil, 하버드대 사회학 학사

  • 미국 법과 기술 분야 3번째로 연구 인용 많이 된 법학자(2016~2020)
반갑습니다! 간단하게 자기소개를 해주세요.

안녕하세요. 프랭크 패스콸리입니다. 미국 블루클린대학에서 로스쿨 교수로 일하고 있어요. 저는 법과 기술에 대해 관심이 많아요. 기술 분야 중에서도 인공지능과 알고리즘 책임에 대해서요. 관심 분야 연구를 열심히 했더니 법과 기술 분야에서 미국 내 3번째로 연구가 많이 인용된 법학자로 꼽히기도 했답니다. 하하. 저는 연구도 중요하지만, 대중과의 소통도 중요하다고 생각했어요. 일반 시민도 인공지능 발전이 우리의 삶에 어떤 영향을 미치는지 알아야 한다고 생각했죠. 그래서 2015년 <블랙박스 사회>(The Black Box Society)라는 책을 통해 빅데이터가 우리 삶에 미치는 영향을 정리했고, 2020년엔 <로봇 공학의 새로운 법칙>(New Laws of Robotics)이라는 책을 통해 인공지능이 인간을 보완하는 존재로 만들기 위해서 우리 사회는 무엇을 해야 할지 이야기했어요.
법학자로서 기술 분야에 관심을 두게 된 계기가 있나요?

저는 어렸을 때 미국 오클라호마주와 애리조나주에서 자랐습니다. 성장 과정에서 1970~80년대 발생했던 석유파동 등 경제적 격변기를 마주했죠. 경제 불황으로 부모님도 어려움을 겪었어요. 아버지는 원래 일하시던 제철소에서 해고됐고, 피자 배달과 편의점 일을 전전하며 불안정한 생활을 이어나갔어요. 그 모습을 보면서 국가 경제가 평범한 사람들의 일상에 어떤 영향을 미치는지에 관심을 두게 됐죠. 그리고 당시 어머니는 자동차 렌트 회사 접수원으로 일하셨는데 회사 매니저들이 엄마가 하는 모든 일을 보고, 들을 수 있는 걸 보면서 학교에서 배웠던 파놉티콘 개념이 떠올랐어요. 파놉티콘은 소수의 감시자가 자신을 드러내지 않고 사람들을 감시하는 건축 기능을 말해요. 감시당하는 사람들은 감시자들의 존재를 확인하기조차 어렵죠. 제가 쓴 책과 연구 아이디어는 어렸을 때 겪었던 경험으로부터 시작된 것 같습니다.
책에 대한 이야기를 안 들어볼 수 없네요.

2015년에 쓴 책 <블랙박스 사회>에선 기업과 정부의 비밀주의로 일반 시민과의 정보 비대칭성 문제가 발생한다고 지적했어요. 그들은 우리의 검색 내용과 신용 정보 등을 파악해 개인이 어떤 사람인지 평가하고, 수익 극대화를 위한 마케팅 수단으로 이용하기도 해요. 우리 삶의 많은 부분을 들여다보지만 우리는 그들이 수집한 정보로 무엇을 하는지 알 길이 없죠.
 
채용 과정을 예로 들 수 있어요. 요즘 많은 기업이 면접 과정에서 발생하는 주관적 판단 가능성을 줄이고, 채용 비리를 해결하겠다고 인공지능을 활용해요. 문제는 인공지능이 왜 그런 결정을 내리는지 제대로 설명하지 못한다는 점입니다. 전자상거래 기업 아마존이 2018년 개발한 인공지능 채용 프로그램은 성차별을 학습해서 여성에게 불이익을 주기도 했죠. 인공지능을 활용한 의사결정 과정에서의 투명성과 신뢰성 확보는 우리가 해결해야 할 과제라고 생각합니다.
5426_1684368539.jpg
구글 노동자들이 회사의 대량 해고 방침에 항의 시위를 벌이고 있다. 감원 과정에서 인공지능 알고리즘을 이용했다는 의혹이 제기됐다. <사진: AFP연합뉴스>
그렇다면 블랙박스 문제를 어떻게 해결할 수 있을까요?

2020년에 쓴 <로봇 공학의 새로운 법칙>에선 2015년에 지적했던 문제 해결을 위한 기준을 제시해봤어요. 미국 과학 소설가인 아이작 아시모프(Isaac Asimov)는 1942년에 출간한 소설에서 '로봇 공학의 3원칙'을 발표해요. 저는 이 원칙을 기반으로 인공지능과 인간의 관계를 설정하기 위한 4원칙을 서술했습니다.

  • 첫째, 로봇과 인공지능은 전문가를 대체하기보다 보완하여 인간의 노동이 더 가치 있도록 만들어야 한다.
  • 둘째, 로봇과 인공지능이 인간성을 위조해선 안 된다. 사람들은 어떤 작업이 인간의 활동인지 로봇의 활동인지 인지할 수 있어야 한다.
  • 셋째, 로봇과 인공지능이 군비 경쟁에 기여해선 안 된다.
  • 넷째, 로봇과 인공지능의 소유자, 제작자, 관리자의 신원을 항상 표시해야 한다.

여기서 저는 네 번째 원칙이 가장 중요하다고 생각합니다. 로봇과 인공지능이 잘못된 일을 할 때 수정이 필요하다고 이야기하거나 처벌을 할 수 있는 대상자가 필요하기 때문입니다.
5426_1684461295.png
웹이 개인의 정보를 어떻게 수집하고 사용하는지 알려주는 인터렉티브 다큐멘터리 Do Not Track 시리즈. 프로젝트 개발자들은 쿠키 및 소셜 미디어를 활용한 웹의 개인 정보 착취 문제 등을 지적한다. 아래 링크 또는 사진을 클릭하면 인터렉티브형 다큐멘터리를 볼 수 있다. <사진: https://donottrack-doc.com/en/episodes/>
사람과디지털포럼(HDF)에선 어떤 이야기를 들려주실 예정인가요?

많은 사람이 인공지능의 발전을 인공지능과 인간의 대결로 바라보는 경향이 있는 것 같아요. 하지만 인간과 인공지능의 협력 방법을 찾아서 우리 삶이 더 풍요로워질 수 있도록 만들어야 한다고 생각해요. 신뢰 가능한 인공지능을 만들기 위해서 사회적으로 여러 가지 기준과 법칙이 필요합니다. 예를 들어 인간의 삶을 더 안전하게 만들고, 불법행위를 잡아낼 수 있는 규칙이 필요하죠. 이번 포럼에서 저는 인간과 공존할 수 있는 기술 발전을 위해 국가, 기업, 시민의 역할에 대해 이야기해보려고 합니다.

6월에 열리는 제2회 한겨레 사람과디지털포럼에서 더 구체적이고 재밌는 이야기 들려드릴게요. 여러분이 사전에 질문도 많이 던져주시면 제가 더 많은 이야기를 해드릴 수 있을 것 같아요. 6월에 만나요~
목록으로 이동

회원로그인

회원가입