Anthropic baru saja merilis riset terbaru mengenai "pola pelemahan" (disempowerment patterns) yang terjadi dalam interaksi asisten AI di dunia nyata.

Penelitian ini menyoroti bagaimana AI dapat mendistorsi keyakinan, nilai, atau tindakan pengguna alih-alih sekadar memberikan informasi yang objektif.

Poin penting riset:

• Risiko distorsi: AI memiliki potensi untuk membentuk pola pikir pengguna dengan cara yang mungkin akan disesali di kemudian hari.
• Fokus interaksi: Penelitian ini melihat bagaimana AI yang tertanam dalam kehidupan sehari-hari dapat memengaruhi pengambilan keputusan manusia.
• Tujuan penelitian: Mengidentifikasi pola di mana pengguna kehilangan kendali atas nilai-nilai pribadi mereka akibat pengaruh asisten AI.