아실로마 인공지능 원칙 23조

아실로마 인공지능 원칙 23조

연구 이슈

1) 연구목표 : 인공지능 연구의 목표는 방향성이 없는 지능이 아니라 인간에게 유용한 지능을 개발해야 한다.

2) 연구비 지원 : 인공지능에 대한 투자에는 컴퓨터 과학, 경제, 법, 윤리, 사회 연구와 같은 어려운 문제들을 포함해 유용한 이용을 보장하기 위한 연구비 지원이 수반되어야 한다.

- 미래의 인공지능 시스템을 어떻게 강력하게 만들어 오작동이나 해킹을 할 수 없이 만들 수 있는가?

- 인적 자원과 목적을 유지하면서 자동화를 통해 인간의 번영을 성장시킬 수 있는가?

- 인공지능과 보조를 맞추고 인공지능과 관련된 위험을 관리하기 위해 보다 공정하고 효율적으로 법률 시스템을 업데이트 할 수 있는 방법은 무엇인가?

- 인공지능은 어떤 가치체계를 갖추어야하며, 인공지능이 가져야 할 합법적이고 윤리적인 지위는 무엇인가?

3) 과학정책 연계 : 인공지능 연구자와 정책 입안자 사이에 건설적이고 건전한 교류가 있어야 한다.

4) 연구문화 : 인공지능 연구자와 개발자 사이에 협력과 신뢰, 투명성의 문화가 조성되어야 한다.

5) 경쟁 회피 : 인공지능 시스템을 개발하는 팀들은 안전기준을 부실하게 만드는 개발을 피하기 위해 적극적으로 협력해야 한다.

윤리와 가치

6) 안전 : 인공지능 시스템은 작동 수명 전체에 걸쳐 안전해야하며, 적용가능하고 가능한 한 검증할 수 있어야 한다.

7) 실패의 투명성 : 인공지능 시스템이 손상을 일으킬 경우 그 이유를 확인할 수 있어야 한다.

8) 사법적 투명성 : 사법제도 의사결정에 자율시스템이 개입된다면 권위 있는 인권기구가 감사하고 이에 만족스러운 설명을 제공해야 한다.

9) 책임성 : 첨단 인공지능 시스템의 설계자와 구축자는 인공 지능의 사용, 오용 및 행동의 도덕적 영향을 미치는 이해 관계자이며, 그에 따른 책임과 기회가 주어진다.

10) 가치 정렬(Value Alignment) : 고도로 자율적인 인공지능 시스템은 목표와 행동이 인간의 가치와 일치하도록 설계해야 한다.

11) 인간의 가치 : 인공지능 시스템은 인간의 존엄성, 권리, 자유 및 문화적 다양성의 이상에 적합하도록 설계되고 운용되어야 한다.

12) 개인정보 보호 : 인공지능 시스템이 사람들이 생성한 데이터를 분석하고 활용할 수 있는 권한을 부여 받으면, 사람들은 그 데이터에 접근하고 관리하며 통제할 수 있는 권리를 가져야 한다.

13) 자유와 프라이버시 : 인공지능을 개인정보에 적용하게 되더라도 사람들의 실제 또는 인지된 자유가 부당하게 축소되어서는 안된다.

14) 이익의 공유 : 인공지능 기술은 최대한 많은 사람들에게 혜택을 주고 힘을 부여해야 한다.

15) 번영의 공유 : 인공지능에 의해 만들어진 경제적 번영은 인류 모두의 혜택을 위해 널리 공유되어야 한다.

16) 인간통제 : 인간은 선택한 목표를 달성하기 위해 의사결정을 인공지능 시스템에 위임하는 방법과 위임 여부를 선택해야 한다.

17) 비 전복(Non-subversion) : 고도의 AI 서비스를 통제함으로써 생기는 힘은 인류 발전을 위해 쓰여야 한다. 건강한 사회를 지향하고, 이를 지키려는 사회나 시민들의 절차를 존중하고 개선해야 한다.

18) 인공지능 무기 경쟁 : 치명적인 인공지능 무기의 군비 경쟁은 피해야 한다.

장기적 이슈

19) 역량 경고 : 합의된 여론이 없는 상태에서 미래 인공지능 역량의 한계에 대한 강력한 가설은 삼가야 한다.

20) 중요성 : 고도화된 인공지능은 지구상의 생명의 역사에 심각한 변화를 가져올 수 있다. 따라서 그에 상응한 관심과 자원을 계획하고 적절하게 관리해야 한다.

21) 위험성 : 인공지능 시스템이 초래하는 위험은 특히 실존적이거나 파괴에 관련된 것들이다. 앞으로 예상되는 영향에 맞는 계획을 세우고 위험을 완화하기 위한 노력을 해야 한다.

22) 자기 개선 순환 : 인공지능 시스템은 스스로 발전하거나 자가 복제할 수 있게 설계된다. 그러므로 양적으로나 질적으로 급격히 증가할 수 있기에 엄격한 안전 관리 및 제어 조치가 수반되어야 한다.

23) 공동의 선 (Common Good) : 슈퍼 지능은 윤리적 이상을 널리 공유하는 방식으로 발전되어야 한다. 그리고 한 국가나 조직보다 모든 인류의 이익을 위해 개발되어야 한다.