Es gibt ein Problem mit dem Autopiloten.

W

wernertrp

Guest
Der PKW-Autopilot.

Jetzt wenn die AI noch etwas dĂźmmer ist als Du bekommst Du Zugriff um den Autopiloten abzuschalten.
Wenn die AI fertig ist hast Du keine MĂśglichkeit mehr den Autopiloten abzuschalten.

Was meint ihr wann ist dieser Zeitpunkt ?
In 25 Jahren ?
 
Am 31.10.19 um 11:11 schrieb wernertrp:
Der PKW-Autopilot.

Jetzt wenn die AI noch etwas dĂźmmer ist als Du bekommst Du Zugriff um den Autopiloten abzuschalten.
Wenn die AI fertig ist hast Du keine MĂśglichkeit mehr den Autopiloten abzuschalten.

Was meint ihr wann ist dieser Zeitpunkt ?
In 25 Jahren ?

Vermutlich dann, wenn es ein Algorithmusverbot haben. ;-)

https://netzpolitik.org/2019/regierungsberaterinnen-fordern-strengere-regeln-fuer-daten-und-algorithmen/
--
---hdw---
 
On 31.10.19 11:11, wernertrp wrote:

Jetzt wenn die AI noch etwas dĂźmmer ist als Du bekommst Du Zugriff um den Autopiloten abzuschalten.
Wenn die AI fertig ist hast Du keine MĂśglichkeit mehr den Autopiloten abzuschalten.

Was meint ihr wann ist dieser Zeitpunkt ?
In 25 Jahren ?

https://www.youtube.com/watch?v=DIU96Ycl6Hk

Hanno
 
Am Donnerstag, 31. Oktober 2019 14:19:36 UTC+1 schrieb Johannes Bauer:
On 31.10.19 14:14, Hanno Foest wrote:

Wenn man sich ansieht, wie gut die heute allerdings schon fahren, mit
vergleichsweise einfachen Systemen, sehe ich das Problem allerdings
nicht. Im Gegenteil, das wäre doch super wenn die ganzen
Testosteron-Teenager und halbblinden Rentner endlich nicht mehr selber
steuern dĂźrften. Was ist also das Problem, das du meinst?

Was dabei passieren kann, wird hier durchaus Ăźberzeugend dargelegt..

https://this.deakin.edu.au/self-improvement/car-wars

Ugh, hast du auch ein TL;DR statt einfach eine 32-seitige Cory Doctrow
Erzählung zu verlinken? Ich mag Doctrow ja wirklich, aber es sprengt
halt den Rahmen, sich das "mal eben" durchzulesen.

Dass AI-Systeme nicht unproblematisch sein kÜnnen, ist hinlänglich
bekannt. Aber wenn man sich ansieht, in wie vielen Bereichen sie
Menschen mittlerweile schon haushoch Ăźberlegen sind, obwohl das noch
Technologie in den Kinderschuhen ist, muss man sich schon fragen, ob es
da Ăźberhaupt eine Alternative dazu gibt.

Viele Grüße,
Johannes

--
"Performance ist nicht das Problem, es läuft ja nachher beides auf der
selben Hardware." -- Hans-Peter Diettrich in d.s.e.



Kann eine AI um eine schwierige Kurve in der Innenstadt einen LKW manovrieren.
Da habe ich letzte Woche einem LKW zugeschaut.
Der hat dann leicht einen geparkten PKW touchiert und er mußte dann die Polizei rufen das ganze hat eine dreiviertel Stunde gedauert.
 
On 31.10.19 14:14, Hanno Foest wrote:

Wenn man sich ansieht, wie gut die heute allerdings schon fahren, mit
vergleichsweise einfachen Systemen, sehe ich das Problem allerdings
nicht. Im Gegenteil, das wäre doch super wenn die ganzen
Testosteron-Teenager und halbblinden Rentner endlich nicht mehr selber
steuern dĂźrften. Was ist also das Problem, das du meinst?

Was dabei passieren kann, wird hier durchaus Ăźberzeugend dargelegt.

https://this.deakin.edu.au/self-improvement/car-wars

Ugh, hast du auch ein TL;DR statt einfach eine 32-seitige Cory Doctrow
Erzählung zu verlinken? Ich mag Doctrow ja wirklich, aber es sprengt
halt den Rahmen, sich das "mal eben" durchzulesen.

Dass AI-Systeme nicht unproblematisch sein kÜnnen, ist hinlänglich
bekannt. Aber wenn man sich ansieht, in wie vielen Bereichen sie
Menschen mittlerweile schon haushoch Ăźberlegen sind, obwohl das noch
Technologie in den Kinderschuhen ist, muss man sich schon fragen, ob es
da Ăźberhaupt eine Alternative dazu gibt.

Viele Grüße,
Johannes

--
"Performance ist nicht das Problem, es läuft ja nachher beides auf der
selben Hardware." -- Hans-Peter Diettrich in d.s.e.
 
On 31.10.19 13:54, Johannes Bauer wrote:

Wenn man sich ansieht, wie gut die heute allerdings schon fahren, mit
vergleichsweise einfachen Systemen, sehe ich das Problem allerdings
nicht. Im Gegenteil, das wäre doch super wenn die ganzen
Testosteron-Teenager und halbblinden Rentner endlich nicht mehr selber
steuern dĂźrften. Was ist also das Problem, das du meinst?

Was dabei passieren kann, wird hier durchaus Ăźberzeugend dargelegt.

https://this.deakin.edu.au/self-improvement/car-wars

Hanno
 
Am 31.10.2019 um 11:11 schrieb wernertrp:
Der PKW-Autopilot.

Jetzt wenn die AI noch etwas dĂźmmer ist als Du bekommst Du Zugriff um den Autopiloten abzuschalten.
Wenn die AI fertig ist hast Du keine MĂśglichkeit mehr den Autopiloten abzuschalten.

Was meint ihr wann ist dieser Zeitpunkt ?
In 25 Jahren ?

https://www.ebay.de/itm/193131027066
 
On 31.10.19 11:11, wernertrp wrote:
Der PKW-Autopilot.

Jetzt wenn die AI noch etwas dĂźmmer ist als Du bekommst Du Zugriff um den Autopiloten abzuschalten.
Wenn die AI fertig ist hast Du keine MĂśglichkeit mehr den Autopiloten abzuschalten.

Was meint ihr wann ist dieser Zeitpunkt ?
In 25 Jahren ?

Naja, damit ein Autopilot verbindlich wird, muss er idealerweise in die
Mehrzahl der Fahrzeuge eingebaut werden, damit man eben nicht nur
optisch und via Radar/Lidar Objekte erkennen kann, sondern auch externe
Telemetrie von umgebenden Fahrzeugen hat. Sind schonmal 12 Jahre nur fĂźr
die Automobil-Generation. Plus das Einigen auf eine Schnittstelle, das
war ja bei OBD schon elendig lang und ist nicht safety-kritisch. Plus
die Entwicklung der Steuergeräte und der umgebenden RF-Infrastruktur.

Ich wĂźrde sagen, 25 Jahre ist optimistisch, wenn es darum geht, dass ein
Neufahrzeug nur noch selber fährt.

Wenn man sich ansieht, wie gut die heute allerdings schon fahren, mit
vergleichsweise einfachen Systemen, sehe ich das Problem allerdings
nicht. Im Gegenteil, das wäre doch super wenn die ganzen
Testosteron-Teenager und halbblinden Rentner endlich nicht mehr selber
steuern dĂźrften. Was ist also das Problem, das du meinst?

Gruß,
Johannes

--
"Performance ist nicht das Problem, es läuft ja nachher beides auf der
selben Hardware." -- Hans-Peter Diettrich in d.s.e.
 
Am 31.10.2019 um 14:14 schrieb Hanno Foest:
On 31.10.19 13:54, Johannes Bauer wrote:

Wenn man sich ansieht, wie gut die heute allerdings schon fahren, mit
vergleichsweise einfachen Systemen, sehe ich das Problem allerdings
nicht. Im Gegenteil, das wäre doch super wenn die ganzen
Testosteron-Teenager und halbblinden Rentner endlich nicht mehr selber
steuern dĂźrften. Was ist also das Problem, das du meinst?

Was dabei passieren kann, wird hier durchaus Ăźberzeugend dargelegt.

https://this.deakin.edu.au/self-improvement/car-wars

Den Aluhut beachten!
 
On 31.10.19 14:19, Johannes Bauer wrote:

Was dabei passieren kann, wird hier durchaus Ăźberzeugend dargelegt.

https://this.deakin.edu.au/self-improvement/car-wars

Ugh, hast du auch ein TL;DR statt einfach eine 32-seitige Cory Doctrow
Erzählung zu verlinken? Ich mag Doctrow ja wirklich, aber es sprengt
halt den Rahmen, sich das "mal eben" durchzulesen.

Lohnt sich aber. - Prinzipiell geht es aber dabei darum (SPOILER!)

..
..
..

daß du ziemlich bald keine Verfügungsgewalt mehr über dein Eigentum (?)
hast. Ähnlich wie bei nicht rootbaren Handies, DRM-Geschichten etc.
heutzutage bereits. Stattdessen haben BehĂśrden Zugriff, wie auch jetzt
schon auf Kommunikation, Standort, etc. von Smartphones. Es wird
Killswitches geben (hat Tesla das nicht jetzt schon?), gegen
Autodiebstahl, flĂźchtende Verbrecher etc. Bei autonomen Autos
naheliegend ist auch die MĂśglichkeit zur Fernsteuerung: TĂźren werden auf
von innen nicht zu Ăśffnende Weise verriegelt, und der Insasse zur
nächsten Polizei gekarrt. Und es wird verboten sein, irgendwas an der
Programmierung zu ändern. Wegen der Verkehrssicherheit, und wegen der
bĂśsen Buben, natĂźrlich.

Und diese BehĂśrdenschnittstellen - vermutlich wird es zugunsten der
Angriffsoberfläche mehr als eine sein, verschiedene BehÜrden werden
verschiedene Erfordernisse haben, vgl. auch den Aufbau der
ETSI-Schnittstelle zur lawful interception - werden Bugs haben.
Irgendwann wird jemand diese Bugs auszunutzen wissen. Oder, viel
trivialer, einer BehĂśrde kommt der Zugangscode abhanden. Und dann kann
man sich mal Ăźberlegen, was ein feindlich gesonnener Akteur mit ein paar
Millionen fernsteuerbarer Autos anfangen kĂśnnte, wenn er mĂśglichst viel
Schaden anrichten will.

Als jemand, der sich fĂźr den Themenkomplex interessiert, fand ich die
bereits existierenden Ansätze ßberzeugend extrapoliert.

Hanno
 
On Thu, 31 Oct 2019 14:58:00 +0100, Hanno Foest wrote:
On 31.10.19 14:19, Johannes Bauer wrote:
[Auto-Autopilot - verbindlich?]
Was dabei passieren kann, wird hier durchaus überzeugend dargelegt.
https://this.deakin.edu.au/self-improvement/car-wars
Ugh, hast du auch ein TL;DR statt einfach eine 32-seitige Cory Doctrow
Erzählung zu verlinken? Ich mag Doctrow ja wirklich, aber es sprengt
halt den Rahmen, sich das "mal eben" durchzulesen.
Prinzipiell geht es aber dabei darum [...] daß du ziemlich bald keine
Verfügungsgewalt mehr über dein Eigentum (?) hast. Ähnlich wie bei nicht
rootbaren Handies, DRM-Geschichten etc. heutzutage bereits. Stattdessen
haben Behörden Zugriff, wie auch jetzt schon auf Kommunikation,
Standort, etc. von Smartphones.

Jup. Ich bin mir Dir absolut einer Meinung, wenn...

Als jemand, der sich für den Themenkomplex interessiert, fand ich die
bereits existierenden Ansätze überzeugend extrapoliert.

.. Interessant dabei die Erkenntnis, daß 90% der Kunden überhaupt kein
Problem mit dieser schleichenden Entmachtung durch die Hintertüre haben.
Unterschiedliche Argumente, von "ist bequem" über "habe nichts zu
verbergen" und "gibt eh keine Alternative", "die Vorteile überwiegen",
"was kann es schon schaden" bis hin zu "mir doch egal".

Das kann man bei den 1001 Assistenzsystemen heute schon bewundern und
natürlich werden die Behörden den Teufel tun, hier warnend den Zeigefinger
zu erheben. Die Überwachung und Immobilisierung von Fahrzeugen ist doch
genau die Erfüllung der irren Allmachtsphantasie. Ganz ohne die schon
etwas ausgelutschte Drohkulisse mit Anti-Terrorismus und Gefährdern.

Neulich habe ich irgendeinen Versicherungswerbespot gesehen, wo man durch
Einbau eines CAN/OBD2-Datenloggers noch 1.07¤ an Prämie sparen konnte. Na
logens werden das die Lemminge gleich machen, denn: Was kann schon
passieren? Ist doch alles sicher. Sicher?

Und zentral gemanagte Cloudfahrzeuge bieten noch den Vorteil, den Adobe
neulich in Venezuela durchexerziert hat. Ja, nein, die Buben sind
zurückgerudert. Vorläufig. Aber ein "autofreier Sonntag" ließe sich
jedenfalls recht bequem realisieren - ist ja nicht so, daß Auto noch nie
gehackt wurden.

Aber wir dürfen uns da noch recht entspannt zurücklehnen: Der Tag, an dem
wir "ewig Gestrigen" enteignet werden und man mit den ollen Dosen
nirgendwo mehr rumeiern darf, ist noch einigermaßen fern. Da ist in
Deutschland auf den zwar geduldigen aber eben auch langen Atem der
Behörden Verlaß. Und schließlich ist das Leben endlich, man muß sich das
Elend also nicht beliebig lange mitansehen.

Aber das ist jetzt mehr ein metaphysisches Thema.

Ciao,
Volker
 
Am 31.10.2019 um 18:14 schrieb Volker Bartheld:

Aber wir dürfen uns da noch recht entspannt zurücklehnen: Der Tag, an dem
wir "ewig Gestrigen" enteignet werden und man mit den ollen Dosen
nirgendwo mehr rumeiern darf, ist noch einigermaßen fern.

Da wäre ich mir nicht so sicher, eine gut plazierte Klage der sog.
Umwelthilfe, ein paar grenzdebile Richter und selbst der H-Spaß ist nur
noch Überlieferung...
 
Am 31.10.2019 um 18:40 schrieb Eric Bruecklmeier:
Am 31.10.2019 um 18:14 schrieb Volker Bartheld:


Aber wir dürfen uns da noch recht entspannt zurücklehnen: Der Tag, an dem
wir "ewig Gestrigen" enteignet werden und man mit den ollen Dosen
nirgendwo mehr rumeiern darf, ist noch einigermaßen fern.

Da wäre ich mir nicht so sicher, eine gut plazierte Klage der sog.
Umwelthilfe, ein paar grenzdebile Richter und selbst der H-Spaß ist nur
noch Überlieferung...

H-Kennzeichen gilt doch eh nur für die *H*_alle.
 
On 31.10.19 14:31, wernertrp wrote:

Kann eine AI um eine schwierige Kurve in der Innenstadt einen LKW manovrieren.
Da habe ich letzte Woche einem LKW zugeschaut.
Der hat dann leicht einen geparkten PKW touchiert und er mußte dann die Polizei rufen das ganze hat eine dreiviertel Stunde gedauert.

Naja, prinzipiell ist eine AI ja dem menschlichen Hirn nachempfunden.
Insofern gibt es jetzt bei einem hinreichend komplexen Netzwerk nichts,
was eine NI kĂśnnen wĂźrde, das eine AI nicht beherrscht. Geschwindigkeit
und Skalierbarkeit sind im Moment halt die größten Differenzen.

Aber prinzipiell kann deine AI sowohl einen LKW einparken als auch einen
PKW dabei schrammen.

Gab zum Einparken tatsächlich letztin auch eine schÜne Visualisierung:
https://www.youtube.com/watch?v=VMp6pq6_QjI

Viele Grüße,
Johannes

--
"Performance ist nicht das Problem, es läuft ja nachher beides auf der
selben Hardware." -- Hans-Peter Diettrich in d.s.e.
 
Bubo bubo wrote:
Am 31.10.2019 um 18:40 schrieb Eric Bruecklmeier:
Am 31.10.2019 um 18:14 schrieb Volker Bartheld:


Aber wir dürfen uns da noch recht entspannt zurücklehnen: Der Tag, an dem
wir "ewig Gestrigen" enteignet werden und man mit den ollen Dosen
nirgendwo mehr rumeiern darf, ist noch einigermaßen fern.

Da wäre ich mir nicht so sicher, eine gut plazierte Klage der sog.
Umwelthilfe, ein paar grenzdebile Richter und selbst der H-Spaß ist nur
noch Überlieferung...

H-Kennzeichen gilt doch eh nur für die *H*_alle.

Meiner ist 40. Steht 365*24 zur Verfügung. Kein 'H'.
Weil diese Stadt auf den Plakettenzwang verzichtet.

MfG
hjs
 
On 31.10.19 14:58, Hanno Foest wrote:
On 31.10.19 14:19, Johannes Bauer wrote:

Was dabei passieren kann, wird hier durchaus Ăźberzeugend dargelegt.

https://this.deakin.edu.au/self-improvement/car-wars

Ugh, hast du auch ein TL;DR statt einfach eine 32-seitige Cory Doctrow
Erzählung zu verlinken? Ich mag Doctrow ja wirklich, aber es sprengt
halt den Rahmen, sich das "mal eben" durchzulesen.

Lohnt sich aber. - Prinzipiell geht es aber dabei darum (SPOILER!)

Ja, werde ich mir auch durchlesen wenn die Zeit nicht so eng bemessen ist.

daß du ziemlich bald keine Verfügungsgewalt mehr über dein Eigentum (?)
hast. Ähnlich wie bei nicht rootbaren Handies, DRM-Geschichten etc.
heutzutage bereits.

Interessanter Aspekt, aber von dem eigentlichen Problem schon entkoppelt.

Denn wir haben heute schon Systeme, in denen man in die ECUs nicht mehr
eingreifen darf. Das fing mit den bĂśsen Tunern an, die die
Kennlinienfelder geändert haben und mittlerweile sind die Firmwares
komplett secure boot/integritätsgeschßtzt. Ohne Hardware Hack kaum noch
eine Chance dagegen. Und die Automotive-Welt versucht ja auch ECUs
gegeneinander beim ersten Kontakt (TOFU) kryptografisch zu verheiraten.
Das kannst du dann gar nicht mal mehr tauschen, auch nicht mit einem
original Ersatzteil. Riesen Schweinerei meines Erachtens.

Aber, wie du auch schon schreibst, wir haben schon viele Felder, auf
denen genau das so ist. Smart Phones. Internet-Infrastruktur ist nur
noch ein "Service", keinem gehĂśrt mehr Blech. Software mit
Lizenzmodellen "as a service", z.B. Adobe Creative Cloud. Microsoft mit
Windows 10.

Absoluter Drecksrotz. Wer da freiwillig mitmacht, dem geschieht es echt
nur Recht, wenn er gnadenlos verarscht wird. FĂźr mich *die* Motivation,
offene und freie Software zu bauen und zu nutzen.

Wobei es selbst da interessante Grauzonen gibt. Browser z.B. sind
heutzutage so EXTREM komplex, dass man wieder nur ein Paar Optionen hat.
Chromium, Firefox. Und Mozilla sind halt auch nicht mehr die "freie
Software" Leute, die sie frĂźher vielleicht mal waren, sondern auch
mittlerweile corporatefiziert. Und Chromium, naja, die Entwicklung wird
getrieben von Google. Auch wenn es Open Source ist, aber wenn man nicht
die Ressourcen hat, den zu forken, dann sieht es mau aus sobald die mal
wo abbiegen, wo man nicht mehr mitgehen will.

Ach je. Jetzt habe ich schlechte Laune. Und du bist Schuld, Hanno! ;)

Viele Grüße,
Johannes

--
"Performance ist nicht das Problem, es läuft ja nachher beides auf der
selben Hardware." -- Hans-Peter Diettrich in d.s.e.
 
On 31.10.19 13:54, Johannes Bauer wrote:


nicht. Im Gegenteil, das wäre doch super wenn die ganzen
Testosteron-Teenager und halbblinden Rentner endlich nicht mehr selber
steuern dĂźrften. Was ist also das Problem, das du meinst

gehts noch?
Mein Pa ist 85 und ich kann, wenn er faehrt, angstlos daneben pennen.
Er ist sicher nicht der Durchschnitt.

Ich finde das als Frechheit, Rentnern pauschal zu unterstellen:

> endlich nicht mehr selber steuern dĂźrften

Bin gespannt, ob du mit 85 noch selbstaendig laufen kannst.


--
Gruesse Gert
 
Gert schrieb:

Johannes Bauer wrote:
nicht. Im Gegenteil, das wäre doch super wenn die ganzen
Testosteron-Teenager und halbblinden Rentner endlich nicht mehr selber
steuern dĂźrften. Was ist also das Problem, das du meinst

gehts noch?
Mein Pa ist 85 und ich kann, wenn er faehrt, angstlos daneben pennen.

Das dürfte für den größten Teil der mit 85 noch autofahrenden Rentner
zutreffen

> Er ist sicher nicht der Durchschnitt.

Nein, natĂźrlich nicht. Es halten sich ja auch ca. 85% /aller/ Autofahrer fĂźr
deutlich besser als alle anderen Autofahrer. Das ist menschlich auch leicht
erklärbar

> Ich finde das als Frechheit, Rentnern pauschal zu unterstellen:

Er unterstellt das doch Rentnern nicht pauschal! Er schreibt ausdrĂźcklich
von "halbblinden" Rentnern. Solche sollte man in der Tat nicht mehr fahren
lassen - auch dann, wenn der mĂśglicherweise halb- oder ganz blinde Sohn
dennoch angstfrei daneben schlfen kĂśnnte...
Freilich verursachen dagegen "Testosteron-Teenager", besser: 18-25jährige
Autofahrer, recht viele und oft schwerere Unfälle als halbblinde 85-jährige
Rentner

endlich nicht mehr selber steuern dĂźrften

Bin gespannt, ob du mit 85 noch selbstaendig laufen kannst.

Welches Problem hast du mit der Verkehrssicherheit?
Gefährliche 85-jährige gehören ebensowenig auf die Straße wie gefährliche
25-jährige!

MfG
Rupert
 
wernertrp wrote:

Der PKW-Autopilot.

Jetzt wenn die AI noch etwas dümmer ist als Du bekommst Du Zugriff um den Autopiloten abzuschalten.
Wenn die AI fertig ist hast Du keine Möglichkeit mehr den Autopiloten abzuschalten.

Was meint ihr wann ist dieser Zeitpunkt ?
In 25 Jahren ?

Ist es nicht interessanter, zu fragen, wann unsere Strassen
so voll sind, dass man nur noch darauf stehen kann?

Grüße,
H.
 
Am 01.11.2019 um 08:55 schrieb Heinz Schmitz:

Ist es nicht interessanter, zu fragen, wann unsere Strassen
so voll sind, dass man nur noch darauf stehen kann?

Nein, es hat nicht jeder Wahnvorstellungen wie du.
 

Welcome to EDABoard.com

Sponsor

Back
Top