Augustus 2023
Consumenten in Australië hebben sterke bescherming nodig tegen het gebruik van kunstmatige intelligentie (AI). Hoewel AI het potentieel heeft om voordelen voor de gemeenschap te bieden, worden mensen ook blootgesteld aan de schade van slecht gereguleerde AI-systemen. AI-systemen, waarvan sommige worden beheerd door de machtigste technologiebedrijven ter wereld, beïnvloeden vele aspecten van het leven van consumenten. Consumenten hebben al een aantal schade ondervonden als gevolg van AI-systemen.
Bedrijven die AI gebruiken, mogen niet worden vertrouwd om zichzelf te reguleren. Er zijn krachtige wetten nodig, die worden gehandhaafd door toezichthouders met voldoende middelen om het verantwoorde gebruik van AI te bevorderen en consumenten tegen verdere schade te beschermen.
Om veilig en verantwoord AI-gebruik in Australië te bevorderen en tot stand te brengen, moet de federale overheid:
- wetgeving voor de hele economie invoeren om het gebruik van AI in Australië te reguleren.
- een risicogebaseerd raamwerk ontwikkelen als onderdeel van de AI-wetgeving. Dit raamwerk zou het mogelijk maken het gebruik van AI te classificeren op basis van het risiconiveau, met wettelijke beperkingen en verboden op risicovol gebruik van AI.
- wetgeving maken over de belangrijkste consumentenrechten in de AI-wetgeving.
- wetgeving opstellen voor een duidelijke, eerlijke en algemeen aanvaarde definitie van AI.
- de bestaande wetten versterken om de sectorspecifieke risico’s van AI aan te pakken.
- een AI-commissaris aanstellen, met voldoende middelen en een volledig scala aan regelgevende bevoegdheden, waaronder bevoegdheden op het gebied van strafrecht en civielrechtelijke sancties.
- Geef de AI-commissaris de bevoegdheid om in de markt in te grijpen wanneer er sprake is van aanzienlijke consumentenschade.
- een digitale ombudsman oprichten met de bevoegdheid om klachten te behandelen waarbij consumenten online schade hebben geleden, onder meer door AI-systemen.
Dit overleg komt op een cruciaal moment, omdat Australië het risico loopt achter te blijven bij de internationale ontwikkelingen op het gebied van de regulering van AI. De federale overheid heeft de kans om een duurzaam regelgevingskader te creëren om het veilige en eerlijke gebruik van AI in Australië te garanderen. Meer details over onze aanbevelingen vindt u in onze volledige inzending, gelinkt op deze pagina.
Download het rapport (PDF)
- Inzending: Safe and Responsible AI in Australia Discussion Paper (DISR)
Gerelateerde inhoud
- Opiniestuk: Clearview AI-gezichtsherkenningszaak benadrukt de behoefte aan duidelijkheid over de wet
Stock afbeeldingen: Getty, tenzij anders vermeld.