Kinder werden in Nachrichten, AirDrop, Kontaktpostern in der Telefon App, FaceTime Videonachrichten und der systemweiten Fotoauswahl gewarnt, wenn sie Fotos oder Videos mit nackten Darstellungen von Menschen erhalten oder selbst versuchen, solche Aufnahmen zu versenden. Die Kommunikationssicherheit ist standardmäßig für Kinder aktiviert und kann von Eltern unter Einstellungen > Bildschirmzeit > Kommunikationssicherheit angepasst werden.
Bei dieser Art von Inhalten wird das Foto oder Video unkenntlich gemacht. Das Kind erhält eine Warnung, erfährt, wo es sich helfen lassen kann und dass es in Ordnung ist, wenn es das Foto oder Video nicht sehen möchte. Ähnliche Schutzmaßnahmen gibt es, wenn ein Kind versucht, Fotos oder Videos mit nackten Darstellungen zu versenden. In beiden Fällen haben Kinder die Möglichkeit, eine Person ihres Vertrauens um Hilfe zu bitten, wenn sie das möchten.
Das Betriebssystem analysiert angehängte Bilder und Videos und stellt fest, ob die Inhalte Nacktheit enthalten, ohne Daten außerhalb des Geräts zu übertragen. Das Feature ist so konzipiert, dass keinerlei Hinweis auf die Erkennung von Nacktheit das Gerät verlässt. Apple erhält keinen Zugriff auf die Nachrichten und das Gerät sendet keine Mitteilungen an die Eltern oder andere Personen.
Mit dem neuen Sensitive Content Analysis Framework können Entwickler:innen von anderen Anbietern die Kommunikationssicherheit in ihre Apps integrieren. Durch das Framework können Entwickler:innen erkennen, ob Kinder Inhalte mit nackten Darstellungen von Menschen erhalten oder selbst versuchen, solche Aufnahmen zu versenden. Außerdem können Entwickler:innen Schutzmaßnahmen in ihren Apps hinzufügen, wenn sensible Inhalte erkannt werden.
Dieses Feature erfordert, dass das Elternteil und das Kind zu einer Familiengruppe in iCloud gehören. Weitere Infos zum Einrichten der Familienfreigabe gibt es hier.