IP protection of deep learning systems

On 15 June 2018, the Dutch Association for Copyright (VvA) organised a study session on the interaction between intellectual property and artificial intelligence. While this issue is often approached in terms of IP protection of artificial works and inventions, the first session considered the IP protection of deep learning systems themselves. Jean-Marc Deltorn of CEIPI (University of Strasbourg) gave a detailed presentation. I delivered a brief response, which contained a number of specific questions about Mr. Deltorn’s presentation, and also raised some broader issues about the extent to which further IP protection of deep learning systems is necessary and the impact of deep learning creations on the market for human-created works.

Both papers have been published in the Dutch copyright journal AMI, and a pdf of mine is available here. The English version follows below.

Continue reading “IP protection of deep learning systems”

A neighbouring right for press publishers – the wrong solution to a serious problem

There are just three days to go until the European Commission’s public consultation on “the role of publishers in the copyright value chain” closes. Although the Commission’s explanatory statement hardly makes this clear, it is considering a legislative initiative that could have a far-reaching impact, not just on press publishers, but on the platforms, services and users that press publishers desperately need in order to make a living in the age of digital abundance.

There is no doubt that press publishers are facing an enormous, if not existential existential threat: print advertising and subscription revenues are drying up much more quickly than digital revenues are replacing them. Journalists are being fired as newspapers and magazines – both national and regional – are being downsized or closed. The journalists that remain are increasingly outnumbered by communications professionals spinning their public or private employers’ preferred angle.

It is not obvious to me – nor, it seems, to many publishers  how the commercial viability of the press can be restored in the medium to long term. Its current challenges are related to secular trends, such as the abundant availability of low-cost “basic” news; and changes in consumer preferences, such as unbundling of digital content and reluctance to pay for “premium” content such as quality journalism. Given that the survival of independent, quality journalism and public scrutiny of government and business are at stake, and that the issues facing the press transcend national borders, it makes sense to investigate whether anything useful can be done at the EU level.

Mysteriously, however, the European Commission is not soliciting input on what is happening in the press sector, what might be causing it, what is at stake and what kinds of measures might be feasible. Rather, it is consulting on a very specific measure, the introduction of a neighbouring right for press publishers. The consultation does not explain why it might be helpful in alleviating the sector’s problems, nor even the basics of what such a right might entail (e.g. who gets a right, what does it protect against, is it a prohibition or remuneration right, is it individually or collectively exercised, is it waivable or transferable, etc.). Rather, it is asking what the impact of this undefined neighbouring right would be on publishers, authors, researchers, consumers and intermediaries.

In fact, there is precious little indication that the challenges currently being faced by press publishers are due to the lack of sufficiently broad intellectual property rights. And if insufficient IP rights are not a significant part of the problem, increasing IP rights is unlikely to be a significant part of the solution. At a recent conference in Amsterdam, speakers from publishers, academia, politics, civil society and the internet sector were in near-total agreement that a neighbouring right for publishers would solve nothing at best. It would seem more fruitful to investigate other ways in which the position and prospects of publishers of quality journalism can be increased, e.g. via subsidies, tax facilities, the partial repurposing of public broadcasting funds, or other measures that reflect the significant value to a democratic society of having a vigorous, free and independent press.

Implementation of a neighbouring right would bring significant uncertainty, costs and risks, not just to authors and publishers, but also to the eclectic group of platforms, intermediaries and other service providers that play a role in facilitating the publication, discovery and consumption of press content. Larger, existing broad-based platforms will be incentivised to reduce or remove service features that might trigger the new neighbouring right. New entrants are likely to be discouraged, particularly new entrants who want specifically to serve the market for finding and consuming press content. Depending on the scope of any neighbouring right, moreover, it could also negatively impact providers of social networks as well as providers access, caching and hosting services. Increasing costs, complexity and uncertainty for such a broad category of service providers threatens the free flow of information and investment in – and availability of – innovative digital services, as well as the commercial prospects for publishers and authors.

The commercial viability of press publishers is a very important issue, that deserves serious attention and a willingness to investigate all possible solutions. However, by focusing the discussion, right at the outset, on a specific and probably irrelevant IP measure, the European Commission runs the risk of distracting minds from discovering and implementing new business models for the age of digital abundance, including accepting and embracing unbundling and new consumer preferences. Moreover, if a neighbouring right is ever implemented, it is likely form an an actual impediment to innovation on the part of both publishers and aggregation platforms, therefore actively harming publishers’ ability to find and monetise audiences for their products.

Tussen netneutraliteit en netwerkconcurrentie

Opiniestuk geschreven met Pepijn van Ginneken, ter inleiding van Mediaforum 2012-7/8 – een themanummer over netneutraliteit.

Op 1 januari 2013 treedt de Nederlandse regeling inzake netneutraliteit in werking, neergelegd in het nieuwe artikel 7.4a Telecommunicatiewet. Nederland is na Chili het eerste land met een dergelijk gebod van netneutraliteit. De regeling, geïntroduceerd door een amendement in de Tweede Kamer, wil opkomen voor een open en vrij internet dat iedereen toelaat om alle diensten en websites te bezoeken en iedereen de mogelijkheid geeft om nieuwe, innovatieve diensten en websites aan te bieden. Providers mogen diensten van derden (video, VoIP, messaging en dergelijke) niet discrimineren ten voordele van diensten die ze zelf aanbieden.

Op Europees niveau werd al langer uitgebreid gedebatteerd over dit thema, en werden als gevolg daarvan de nodige basisregels vastgelegd in de in 2009 aangepaste telecomrichtlijnen. Deze regels gaan in de eerste plaats uit van een sterke transparantie, waarbij operators altijd duidelijk moeten aangeven wat voor differentiatie en maatregelen ze toepassen om congestie onder controle te houden. Verder krijgen de nationale toezichthouders de opdracht om marktontwikkelingen op de voet te volgen en indien nodig in te grijpen.

De Nederlandse regeling gaat verder dan het Europese telecomkader en beoogt discriminatie van tevoren te verbieden. In dit themanummer wordt de Nederlandse alleingang vanuit verschillende invalshoeken belicht. Allereerst introduceert Jannetje Bootsma de hoofdregel van het nieuwe artikel 7.4a Tw en de verschillende uitzonderingen daarop. Vervolgens wordt de regeling nader beschouwd in het licht van de Europese interne markt (Jasper Sluijs) en de vrijheid van meningsuiting (Matthijs van Bergen). Zet men die artikelen tegenover elkaar, dan is duidelijk dat het gezichtspunt van de kijker van grote invloed is op het oordeel dat men heeft: is artikel 7.4a – gechargeerd gezegd – een nodeloze en schadelijke doorkruising van de interne markt, of een lichtend voorbeeld van hoe de wetgever het open en vrije internet kan voorzien van een grondrechtelijke bescherming? Tot slot bieden Matthijs Visser en Wouter de Weert een economische blik op netneutraliteit: welke incentives hebben marktdeelnemers om het gedrag te vertonen dat artikel 7.4a beoogt te voorkomen, en welke onvoorziene economische consequenties zal de regeling mogelijk hebben?

Continue reading “Tussen netneutraliteit en netwerkconcurrentie”

Strafbare nieuwsgaring: alleen voor register-journalisten?

Onderzoeksjournalist Brenno de Winter twitterde op 8 september opgelucht dat het openbaar ministerie had besloten hem niet te vervolgen voor fraude met OV-chipkaarten. Begin dit jaar had hij in diverse media gedemonstreerd hoe makkelijk het was om gratis te reizen met een gehackte OV-chipkaart. In de afdoeningsbeslissing motiveert de officier van justitie dat De Winter als journalist heeft bericht over een onderwerp van algemeen belang, daarbij te goeder trouw heeft gehandeld en op grond van een accurate feitelijke basis betrouwbare en precieze informatie heeft verschaft.

Undercoverjournalist Alberto Stegeman oogstte in april ook al begrip bij het Hof Amsterdam voor zijn undercoveractie op Schiphol-Oost, waarbij hij met een vervalste toegangspas het regeringsvliegtuig wist te betreden. Het Hof past dezelfde criteria toe en concludeert dat Stegeman “heeft aangetoond dat hij een zorgvuldige afweging heeft gemaakt tussen het maatschappelijk belang van het zichtbaar maken van de slechte beveiligingssituatie op Schiphol-Oost en het daartoe plegen van strafbare feiten.”

Publieke omroep BNN werd op 20 september wel veroordeeld, voor het afluisteren van Albert Verlinde met verborgen afluisterapparatuur in een voor dat doel aan hem uitgereikte “Gouden Oor” trofee. De veroordeling was niet het gevolg van een strengere rechterlijke toets maar van het hoge stunt-gehalte van de actie van BNN. De misstand waarvoor zij aandacht vroeg – privacyschending in de roddeljournalistiek in het algemeen en door Verlinde in het bijzonder – werd niet ontdekt of bewezen door hem zelf af te luisteren. De omroep wilde Verlinde een koekje van eigen deeg geven en kijken hoe hij daarop reageerde.

Het EHRM stelt voorop dat journalisten geen aan artikel 10 EVRM ontleend recht hebben om de strafwet te schenden, maar houdt voor mogelijk dat strafbare nieuwsgaring in uitzonderlijke gevallen kan worden gerechtvaardigd als zij in functie staat van een reportage met een zwaarwegend maatschappelijk belang, noodzakelijk is om de misstand journalistiek hard te maken en geen onevenredig gevaar of schade veroorzaak (zie deze annotatie van Voorhoof en Wiersma bij het arrest-Mikkelsen).

De zaken van De Winter en Stegeman roepen de vraag op hoe de noodzaak van de wetsschending moet worden opgevat: noodzakelijk om de misstand te ontdekken, om deze journalistiek hard te maken of om deze op een telegenieke manier in beeld te brengen? In de beschikking in de zaak-De Winter hecht de officier van justitie waarde aan De Winter’s betoog dat hij de hackbaarheid van de OV-chipkaart al eerder aan de orde had gesteld, maar dat het onderwerp pas ging leven (“o.a. een spoeddebat in de Tweede Kamer”) toen hij voor de camera demonstreerde dat gewone mensen dat met eenvoudig beschikbare middelen konden doen. Een reportage die interviews met deskundigen en met “Ken Burns effect” in beeld gebrachte documenten heeft nu eenmaal minder impact dan dynamische beelden van de journalist in flagrante delictu.

De journalisten die in het verleden door te vervalsen lekken aantoonden in het aanvraagsysteem voor rijbewijzen en de verwerking van incasso-opdrachten vonden bij de strafrechter geen genade. De journalisten die anno 2011 de lekken aantonen in de beveiliging van het regeringstoestel en het volkstransport gaan echter vrijuit. De Winter en Stegeman hebben ongetwijfeld van hun voorgangers geleerd en zich ingespannen om proportioneel te werk te gaan, maar als je de vier uitspraken vergelijkt is de noodzakelijkheidsdrempel voor wetsschending in het algemeen belang onmiskenbaar lager geworden.

De ruimte die de journalist heeft om, onder de genoemde voorwaarden, de strafwet te schenden maakt de domeinvraag nijpender: wie is journalist? De Hoge Raad heeft in 2008 bewust geweigerd dat begrip scherp af te bakenen, omdat door de opkomst van het internet ook particulieren zich in het algemeen belang tot een breed publiek kunnen richten. De verwijzing die het EHRM steevast maakt naar handelen volgens de journalistieke beroepsethiek ontbreekt bij de Hoge Raad, evenals de vereisten van regelmatig of beroepsmatig werken zoals we die kennen van de Raad van Europa en de Raad voor de Journalistiek.

Nu de Hoge Raad het door een particulier openbaar maken van informatie in het algemeen belang op een lijn stelt (in de woorden van Dommering: verwart) met het beroepsmatig handelen van een journalist, lijkt het erop dat iedere blogger de strafwet mag schenden als dat noodzakelijk en proportioneel is om een misstand op effectieve wijze aan de kaak te stellen en er niemand in gevaar wordt gebracht. Daar kan je principieel voor of tegen zijn, maar voorlopig creëert het wel een risico op overenthousiaste vigilante-journalistiek door amateurwaakhonden.

Dat journalistieke eenpitters meer controle vanuit een beroepsorganisatie nodig hebben dan vakmensen die dagelijks worden gedisciplineerd door de mores van de redactie lijkt voor de hand te liggen. Tegelijkertijd toont het afluisterschandaal bij News International aan dat een gecorrumpeerde redactie-ethiek individuele journalisten kan verleiden tot daden die zij als zolderkamerblogger niet zouden kunnen bedenken (of financieren). Verschillende Britse politici én journalisten pleiten inmiddels voor toezicht met tanden, inclusief schrapping van het tableau voor veelplegers, of voor een wortel- en stokbenadering waarbij officiële ‘register’-journalisten een verdergaande ‘public interest defence’ krijgen tegen smaadclaims.

Oorspronkelijk verschenen in Mediaforum 2011-10.

Het valse veiligheidsdilemma – opinie

Op 3 november 2009 publiceerde het kabinet zijn standpunt over het advies van de Commissie Brouwer-Korf over veiligheid en privacy, en de evaluatie van de Wet bescherming persoonsgegevens. De kop boven het begeleidende persbericht belooft ‘Meer privacy voor burgers’, maar dat dekt niet de lading van de brief. In werkelijkheid gaat de overheid meer gegevens opslaan en uitwisselen. De brief markeert zelfs een fundamentele stap in het denken over veiligheid en burgerrechten. Zij moeten niet meer in concrete gevallen tegen elkaar worden afgewogen; vanaf nu gaat veiligheid voor. Het is een even onjuiste als onnodige keuze.

Dat burgers ‘erop mogen rekenen’ dat overheidsinstanties waar nodig informatie delen, klinkt plausibel, haast evident. Niemand wil dat boeven vrijuit gaan omdat ‘de instanties’ even niet communiceerden. Toch is wezenlijk verschil van inzicht mogelijk over wanneer het vanuit veiligheidsoogpunt noodzakelijk is dat overheidsorganisaties persoonsgegevens uitwisselen, alsmede over de verdere details van die uitwisseling. Wiens en welke gegevens worden uitgewisseld? Wie kan er allemaal bij? Hoe worden de gegevens geverifieerd en beveiligd? Worden de gegevens vernietigd als verder gebruik niet meer noodzakelijk is voor de veiligheid?

Natuurlijk willen we niet dat een zelfmoordcel niet kan worden afgetapt omdat dat privacyinbreuk zou zijn. Uit het artikel van Dorien Verhulst in dit nummer van Mediaforum blijkt dat de Staat op dat punt voldoende bevoegdheden heeft. Evenmin zouden we het aanvaardbaar vinden als een zedenrechercheur een cd-rom met de medische behandelgegevens van alle bekende pedoseksuelen in de trein zou laten liggen. Maar dat men het roerend met elkaar eens kan zijn over makkelijke gevallen, betekent niet dat vooruitgang is geboekt in de discussie over de moeilijke gevallen. In de kabinetsreactie worden over dit soort vragen wel verstandige dingen gezegd, maar door de principiële keuze voor veiligheid boven privacy is het belang daarvan beperkt.

Wellicht onbedoeld biedt de kabinetsreactie een treffende illustratie van het probleem. Het kabinet beoogt een forse uitbreiding van het gebruik van automatische nummerbordherkenning (ANPR), ‘waarbij camera’s op de openbare weg de kentekens van auto’s registreren en deze automatisch vergelijken met bestanden van bijv. openstaande boetes of belastingen. Samenwerking tussen politie en andere overheidsdiensten bij ANPR verloopt aldus veel efficiënter en levert veel meer geld op.’ Ik kan mij voorstellen dat er gevallen zijn waarin automatische nummerbordherkenning een belangrijke bijdrage levert aan het opsporen of voorkomen van een ernstig misdrijf. Als je regels stelt om ervoor te zorgen dat ANPR alleen daarvoor gebruikt kan worden, is er niets aan de hand. Het voorbeeld gaat echter over stelselmatige registratie en opslag van informatie over alle voertuigbewegingen.

ANPR is vast een ‘efficiëntere’ manier om wanbetalers te achterhalen. Maar moet de privacy van alle weggebruikers worden geofferd voor efficiencywinst? Het opsporen van mensen met achterstallige boetes of belastingen is in elk geval niet het eerste waar ik aan denk bij ‘de bescherming van veiligheid’. Het feit dat iemand zijn parkeerboete niet heeft betaald, zie ik niet als een geval waarin ‘de veiligheid van individuen concreet bedreigd wordt’, zoals de kabinetsreactie het formuleert. Laat staan dat registratie en opslag van iedere voertuigbeweging voor het wegnemen van die bedreiging noodzakelijk is, in die zin dat het zonder nummerbordherkenning onmogelijk is achterstallige belastingen of boetes te innen. Laat het kabinet dan zeggen wat het kennelijk bedoelt: als privacyregels opsporing op enige manier belemmeren, moeten privacyregels wijken. Als er een opsporingsbevoegdheid denkbaar is die wij nog niet hebben, geef ons die dan. Weg met anoniem prepaid bellen, hier met die meldplicht buitenlandse reisvoornemens, lang leve de bewaarplicht internetverkeer.

De rest van het kabinetsstandpunt is doordrongen van dezelfde instinctieve keuze: ‘veiligheid’ (wat dat ook betekent) vóór ‘privacy’ (in al zijn verschijningsvormen). Dat wil echter niet zeggen dat er verder geen nuttige voorstellen in staan. Meer aandacht voor beveiliging van overheidsdatabases is absoluut noodzakelijk, zeker nu de acute informatieverzamelzucht van de overheid leidt tot steeds meer databases met gevoelige informatie zoals vingerafdrukken, telecomverkeersgegevens, OV-reisgegevens en medische gegevens. Er staat wel meer verstandigs in de kabinetsreactie, vooral over gegevensverwerking door bedrijven. Maar zodra we het ‘veiligheidsdomein’ betreden is de burger zijn zelfbeschikkingsrecht kwijt. Het is duidelijk niet de bedoeling dat de opsporing op enige manier zal worden gehinderd door de aangescherpte privacywaarborgen.

Het kabinet en veiligheidsmensen presenteren het dilemma van privacy versus veiligheid graag als een vals dilemma: veiligheid is een essentieel deel van de persoonlijke levenssfeer, dus schending van veiligheid is ook een vorm van privacyschending. Dat is waar, maar niet erg behulpzaam en geen vrijbrief om dan veiligheidsbescherming categorisch boven privacybescherming te stellen. Je kunt het bovendien net zo goed andersom stellen: daadwerkelijke bescherming tegen ongebreidelde, onzorgvuldige uitwisseling en opslag van persoonsgegevens is een essentieel deel van – en voorwaarde voor – persoonlijke veiligheid.

De keuze tussen veiligheid en privacy is inderdaad een vals dilemma, maar niet omdat privacy eigenlijk een vorm van veiligheid is en je dus altijd voor veiligheid moet kiezen. Het is een vals dilemma omdat het kabinet die keuze tussen bescherming van veiligheid en bescherming van persoonlijke levenssfeer niet in zijn algemeenheid kan, mag en hoeft te maken. De moeilijke, maar enige werkbare aanpak is om per concreet geval een afweging te maken. Als een beleidsvoorstel met negatieve implicaties voor de privacy wordt gerechtvaardigd met een beroep op veiligheid, moet het privacyverlies worden afgewogen tegen de haalbare veiligheidswinst. Uiteraard moeten alle praktische waarborgen worden getroffen om te voorkomen dat meer privacy wordt verloren dan strikt noodzakelijk. Als de realistisch haalbare veiligheidswinst niet opweegt tegen de aan het voorstel inherente privacyschending, moet het kabinet nee durven verkopen aan opsporingsinstanties – en aan burgers uitleggen dat in vrije landen de overheid geen absolute veiligheidsgaranties kan geven.

Dit opiniestuk is oorspronkelijk gepubliceerd in Mediaforum 2010-1.

De publieke omroep – waar is de uitgang?

Door de aanhoudende wegwerkzaamheden was het Hilversumse Mediapark in 2008 voor onbekenden vrijwel onmogelijk te bereiken. En wie vanuit het Mediapark terug naar de buitenwereld wilde, merkte al snel dat dat eigenlijk niet de bedoeling is. Als het aan minister Plasterk ligt, wordt deze situatie gecodificeerd.

Oorspronkelijk gepubliceerd in Mediaforum 2009-1. Continue reading “De publieke omroep – waar is de uitgang?”

Veel taps, weinig verantwoording

Hieronder volgt de volledige rekening en verantwoording van de regering over de toepassing in 2007 van de meest ingrijpende inbreuk op het communicatiegeheim die de wet toestaat:1

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal
Den Haag, 27 mei 2008

Bij brief van 13 november 2007 (Tweede Kamer, vergaderjaar 2007-2008, 30517, nr. 5) heb ik u toegezegd de tapstatistieken, als weergegeven in voornoemde brief, over de tweede helft van 2007 te doen toekomen. Met deze brief wil ik daar graag aan voldoen.

De Unit Landelijke Interceptie van het Korps Landelijke Politie Diensten verzorgt de interceptie voor alle politiekorpsen, de Bijzondere Opsporingsdiensten en de Koninklijke Marechaussee en fungeert sinds medio 2007 als enig aanspreekpunt voor interceptie van telecommunicatie ten behoeve van de opsporing.
In de tweede helft van 2007 is op 12491 telefoonnummers een bevel tot aftappen gegeven door het Openbaar Ministerie. Hiervan betrof het in 84% een tap op een mobiele telefoon en in 16% een tap op een vaste telefoon. In de betreffende periode liepen er dagelijks gemiddeld 1681 taps.
De opvolgende jaarcijfers zullen worden opgenomen in de begrotingscyclus en langs die weg aan U worden kenbaar gemaakt.

De Minister van Justitie,
E. M. H. Hirsch Ballin

Op grond van deze korte brief kunnen wij twee constateringen doen: de Nederlandse overheid tapt bijzonder veel en doet bijzonder weinig moeite om nut en noodzaak van de toepassing van dat opsporingsmiddel te onderbouwen. Of de eerste constatering een reden tot zorg is kunnen wij niet weten – en daarom is de tweede constatering juist zo ernstig. Continue reading “Veel taps, weinig verantwoording”

  1. Kamerstukken II 2007-2008, 30517, nr. 6.