Program komputer memantau setiap kata siswa atas nama keamanan – The Willits News

Oleh Madison Fitzgerald, Stateline.org (TNS)

Baik itu proyek penelitian tentang Perang Saudara atau eksperimen sains tentang letusan gunung berapi, siswa di Sekolah Distrik Kolonial dekat Wilmington, Del., dapat menemukan apa pun di laptop yang disediakan sekolah.

Namun suatu kali, seorang siswa sekolah dasar menelusuri “cara mati”.

Dalam kasus ini, Meghan Feby, seorang konselor sekolah dasar di distrik tersebut, menerima panggilan melalui platform bernama GoGuardian Beacon, yang algoritmenya menandai frasa tersebut. Perusahaan perangkat lunak pendidikan GoGuardian menjual sistem yang memungkinkan sekolah memantau dan menganalisis apa yang dilakukan siswa di perangkat yang disediakan sekolah dan menandai aktivitas apa pun yang mengindikasikan risiko melukai diri sendiri atau ancaman terhadap orang lain.

Fabi mengatakan siswa yang mencari “cara mati” tidak ingin mati dan tidak menunjukkan tanda-tanda kesusahan – siswa tersebut mencari informasi tetapi tidak dalam bahaya. Meski begitu, dia menganggap serius proyek itu.

“Saya mengalami beberapa situasi dengan GoGuardian dan saya sangat senang mereka datang kepada kami dan kami dapat melakukan intervensi,” kata Feby.

Platform pemantauan komputer semacam ini telah diadopsi secara luas oleh distrik sekolah di seluruh negeri. Ketika pandemi COVID-19 dan kekerasan di sekolah mempengaruhi lebih banyak siswa K-12 di seluruh negeri, krisis kesehatan mental remaja semakin memburuk dan para guru sangat membutuhkan solusi, kata para ahli.

Namun para kritikus khawatir tentang kurangnya transparansi dari perusahaan yang memiliki wewenang untuk memantau siswa dan memilih kapan harus memperingatkan personel sekolah. Pengawasan siswa yang sedang berlangsung juga menimbulkan kekhawatiran mengenai data siswa, privasi, dan kebebasan berpendapat.

Jennifer Jones, staf pengacara di Knight First Amendment Institute, mengatakan bahwa meskipun program-program ini telah tersedia selama lebih dari satu dekade, penggunaannya telah meningkat selama pandemi karena siswa beralih ke pembelajaran online di rumah.

“Saya pikir karena distrik sekolah harus menghadapi berbagai macam masalah – seperti masalah kesehatan mental siswa dan bahaya penembakan di sekolah – saya pikir mereka [school districts] Hanya melihat ini sebagai perbaikan yang murah dan cepat terhadap masalah tanpa mempertanyakan implikasi kebebasan berpendapat dan privasi dengan cara yang lebih bijaksana,” kata Jones.

Hampir setiap indikator kesehatan mental yang buruk, pikiran untuk bunuh diri, dan perilaku bunuh diri meningkat dari tahun 2013 hingga 2023, menurut Survei Perilaku Risiko Remaja terbaru dari Pusat Pengendalian dan Pencegahan Penyakit federal. Terdapat peningkatan jumlah orang yang diancam atau dicederai di sekolah, tidak hadir karena alasan keamanan, atau mengalami perilaku seksual yang dipaksakan.

Ancaman penembakan di sekolah masih menjadi pikiran banyak pendidik. Menurut Washington Post, lebih dari 383.000 siswa telah mengalami kekerasan senjata di sekolah sejak penembakan di Sekolah Menengah Columbine tahun 1999.

CEO GoGuardian Rich Preece mengatakan kepada Stateline bahwa sekitar setengah dari sekolah negeri K-12 di negara tersebut telah menginstal platform perusahaan tersebut.

Sebagai orang yang ditunjuk di sekolah, Feby mendapat peringatan ketika siswa menggunakan istilah pencarian atau kombinasi kata tertentu di laptop yang dikeluarkan sekolah. “Entah itu dikirimkan kepada saya sebagai email atau, jika risikonya sangat tinggi, dikirimkan kepada saya sebagai panggilan telepon.”

Setelah diberitahu, Feby akan memutuskan apakah akan bertemu dengan siswa tersebut atau menelepon ke rumah anak tersebut. Jika sistem menandai aktivitas yang mengganggu di luar jam sekolah, GoGuardian Beacon akan menghubungi orang lain di wilayah tersebut, termasuk penegak hukum di beberapa distrik sekolah.

Feby mengatakan dia mendapat beberapa hasil positif palsu. Seorang siswa ditandai karena mencari lirik. Yang lain mencari konten terkait anime.

Sekitar sepertiga siswa di Feby School berasal dari rumah di mana bahasa Inggris bukan bahasa ibu mereka, sehingga siswa sering kali secara tidak sengaja menggunakan istilah-istilah bahasa Inggris yang menimbulkan kekhawatiran. Anak-anak juga jadi penasaran, katanya.

Tetap saja, penting untuk memiliki GoGuardian di kelas, kata Feby. Sepuluh tahun yang lalu, dia adalah seorang guru sekolah sebelum menjadi seorang konselor. Setelah penembakan massal di Sekolah Dasar Sandy Hook pada tahun 2012, dia menyadari keselamatan sekolah menjadi lebih penting dari sebelumnya.

Data dan privasi

Teddy Hartman, direktur privasi GoGuardian, mengajar sastra Inggris di sekolah menengah atas di Los Angeles Timur dan bekerja sebagai administrator sekolah sebelum bergabung dengan perusahaan teknologi tersebut sekitar empat tahun lalu.

Hartman dibawa ke GoGuardian untuk membantu menciptakan program privasi yang kuat, termasuk batasan seputar penggunaan kecerdasan buatan, katanya.

“Kami berpikir, 'Bagaimana kita bisa berkreasi bersama dengan para pendidik, ilmuwan data terbaik, ahli teknologi terbaik, sambil mengingat bahwa siswa dan pendidik kita adalah yang utama?'” kata Hartman.

Hartman mengatakan GoGuardian tidak akan menggunakan data siswa apa pun di luar protokol yang diizinkan oleh distrik sekolah, dan data tersebut juga tidak akan digunakan untuk melatih kecerdasan buatan perusahaan. Perusahaan yang mengatur perilaku online anak-anak juga harus mematuhi undang-undang federal mengenai keselamatan dan privasi anak di bawah umur, termasuk Undang-Undang Hak Pendidikan dan Privasi Keluarga serta Aturan Perlindungan Privasi Online Anak.

Namun para pakar privasi masih khawatir mengenai seberapa besar akses yang seharusnya dimiliki perusahaan-perusahaan semacam ini terhadap data siswa.