호주 온라인 안전 규제 당국은 소셜미디어 플랫폼에 폭력적인 극단주의 콘텐츠의 확산을 억제하기 위한 조처에 나섰다. 

온라인안전위원장(eSafety Commissioner)은 주요 플랫폼 기업에 구속력 있는 공문을 보내 위협적인 온라인 콘텐츠로부터 호주인을 보호하기 위해 어떤 활동을 하고 있는지 보고하라고 요구했다고 밝혔다. 

온라인안전위원회 사무국은 극단주의자들이 라이브 스트리밍과 알고리즘 기능을 이용해 유해한 콘텐츠를 유포하는 방식을 우려하고 있다. 

메타, 엑스(옛 트위터), 구글, 왓츠앱, 텔레그램, 레딧 등 굵직한 소셜 미디어 기업들은 줄리 인먼 그랜트 위원장에게 테러 및 극단주의 콘텐츠에 어떻게 대처하는 상세하게 답해야 한다. 

그랜트 위원장은 "테러리스트와 폭력적인 극단주의자들이 생성형 AI의 출현을 이용해 이 새로운 기술을 악용하여 해를 끼칠 방법을 실험하고 있다는 보고에 대해서도 우려하고 있다"고 말했다. 

그러면서 위원장은 "실망스럽게도 이들 회사 중 어느 곳도 OECD가 업계와 함께 개발한 기존의 자발적 프레임워크를 통해 해당 정보를 제공하기로 한 곳은 없었다"고 지적했다. 

6개 소셜 미디어 기업은 49일 이내에 전자안전위원장의 요구에 응답해야 한다.