Nur weil etwas möglich ist, muss man es nicht automatisch tun. Ich fahr auch nicht 300 auf der Autobahn nur weil es möglich ist (oder jedenfalls nicht illegal ist). Gibt noch andere Maßstäbe im Leben.
Ich sag ja nichts anderes und ich vermute, das Matze etwas verklausuliert auch Ähnliches sagen wollte: entstandene Technologien (oder ein kultureller Habitus wie Rauchen) lassen sich nur schwer rückabwickeln. Dein Rauchbeispiel war da noch mehr (in meinen Augen weniger) passend, aber das mit Tempo 300 ist ja nochmal eine andere Nummer und wir müssen uns ja nicht absichtlich missverstehen. Rein technisch besitze ich die Möglichkeit dich mit ner Knarre über den Haufen zu schießen, aber logistisch ist es für mich qua Gesetz, kultureller Gepflogenheit und sozialer Konditionierung praktisch unmöglich, es zu tun - ist halt auch wieder etwas anderes.
Was die LLM und Deepfake Voiceovers etc. anbetrifft, das sind relativ neuartige und offen zugängliche Technologien, wo wir als Gesellschaft auf einem ganz anderen Stand sind. Wenn du Voiceovers verbieten willst, wie sieht es dann mit Imitationen von Parodisten aus? Hat jemand ein Recht auf die Einzigartigkeit seiner Stimme bzw. besitzt er sie auch noch nach dem Tod? Was ist mit dem Drakesong, der nicht von Drake selbst ist, aber tatsächlich einen besseren Flow hat als der Schrott, den Drakes offizielle Ghostwriter produzieren. Das über Menschenwürde zu spielen ist ein netter Versuch, aber juristisch denke ich sind wir noch weit davon entfernt, dass irgendwie etwas in ein Gesetztext gegossen werden könnte (also zumindest in der Kategorie, die du erwähnt hast).