واکاوی استقلال الگوریتم های جعبه سیاه در قراردادهای الگوریتمی و پیآمدهای حقوقی آن

نوع مقاله : مقاله پژوهشی

نویسندگان

1 دانشجو

2 دانشیار گروه حقوق دانشگاه علم و فرهنگ

10.22099/jls.2022.40211.4340

چکیده

در عصر جدید با پیشرفت فناوریهای نوین، الگوریتم ها تقریباً در همه زمینه‌های زندگی ما حضور دارند. در دنیای حقوق نیز تعداد قابل توجهی از قراردادها توسط الگوریتم ها منعقد می‌شود؛ در این بین «قراردادهای الگوریتمی جعبه سیاه» از اهمیت ویژه ای برخوردارند. زیرا الگوریتم های جعبه سیاه (هوش مصنوعی) در تصمیم سازی کاملاً مستقل عمل می کنند و نحوه تصمیم گیری آنها برای کاربر انسانی قابل پیش بینی نیست. چگونگی تشکیل قصد انشاء سازنده قراردادهای الگوریتمی جعبه سیاه و قابلیت انتساب آن به کاربر انسانی از جمله مسائلی است که تحقیق حاضر در پی پاسخگویی به آن است. با بررسی های بعمل آمده می توان اظهار داشت که الگوریتم های جعبه سیاه بر خلاف الگوریتم های ساده و جعبه روشن در انعقاد عقود به نحو مستقل عمل می کنند. در این قراردادها قصد انشای سازنده عقد به کاربر انسانی قابل انتساب نیست، ولی می توان با قیاس از ملاک شکل گیری اراده (قوه تمیز) و کیفیات تشکیل قصد در صغیر ممیز و سفیه، وجود اراده در الگوریتم های جعبه سیاه (هوش مصنوعی) را اثبات کرد. در این زمینه، بازنگری در قوانین موجود و انطباق با فناوریهای جدید در زمینه حقوق رقابت، حریم خصوصی و حفاظت از دادها ضروری به نظر می‌رسد.

کلیدواژه‌ها


عنوان مقاله [English]

Analysis of the independence of black box algorithms in algorithmic contracts and its consequences

نویسندگان [English]

  • saber alaei 1
  • Javad Hosainzadeh 2
2 Associate Professor of Law, University of Science and Culture
چکیده [English]

In the new age with the advancement of new technologies, algorithms are present in almost all areas of our lives. In the world of law, a significant number of contracts are concluded by algorithms; In the meantime, "black box algorithmic contracts" are of particular importance. Because black box algorithms (artificial intelligence) operate completely independently in decision making and how they make decisions is unpredictable for the human user. How to form a constructive intention of black box algorithmic contracts and its attribution to human user is one of the issues that the present study seeks to address. it can be stated that black box algorithms, unlike simple and light box algorithms, operate independently in concluding contracts. In these contracts, the intention to write the contract constructively can not be attributed to the human user, but it is possible to compare the existence of will in black box algorithms (artificial intelligence) by comparing the criterion of will formation (clean power) and the qualities of intention formation in minor and fool, Proved. In this regard, it is necessary to review existing laws and adapt to new technologies in the field of competition law, privacy and data protection.

کلیدواژه‌ها [English]

  • Algorithmic contracts
  • Black box algorithms
  • Artificial intelligence
  • Will
الف. فارسی
آقایی، مریم (1384)، «عنصر اراده و نقش آن در قراردادها»، فقه و مبانی حقوق اسلامی، پاییز، شماره 1، صص 87-98.
امامی، حسن (1370)، حقوق مدنی، جلد دوم، تهران: کتاب‌فروشی اسلامیه.
امراللهی بیوکی، سعید، خزانه‌داری، مرتضی (1389)، «مروری بر معاملات الگوریتمی»، اقتصاد بورس، شماره 94، صص 47-58.
احمدی فر، آرمان (1394)، «کاربرد نرم‌افزار Dynamics 365 Business Central در مدیریت زنجیره تأمین (SCM)»، (آخرین مشاهده 21/10/1400)،samix.org/usage-of-dynamics-365-business-central-in-scm
السان، مصطفی (1384)، «ایجاب و قبول معاملات الکترونیکی»، مجله تحقیقات حقوقی، شماره 43، صص 238-405.
امینی، منصور، عبدی، مونا (1393)، «بررسی تطبیقی نظریه نمایندگی ظاهری»، مجله حقوقی دادگستری، دوره 76، شماره 88، صص 64-90.
حبیب زاده، طاهر (1392)، «وضعیت حقوقی نماینده الکترونیک در تشکیل قرارداد»، فصلنامه پژوهش حقوق خصوصی، سال دوم، شماره 5، صص 62-82.
جعفری لنگرودی، محمدجعفر (1387)، ترمینولوژی حقوق، تهران: گنج دانش.
رهبری، ابراهیم، رضایی، علی (1390)، «نقش نمایندگان الکترونیکی در فقه»، فصلنامه حقوق، سال 41، شماره 4، صص 159-178.
سامت، محمد علی (1390)، «اعمال حقوقی صغیر ممیز»، مطالعات حقوق تطبیقی، دوره 2، شماره 1، صص 95-135
شیروی، عبدالحسین (1394)، حقوق تجارت بین‌الملل، چاپ هشتم، تهران: انتشارات سمت.
شیروی، عبدالحسین، محمدی، مرتضی (1388)، «تشکیل قراردادها از طریق نمایندگی سامانه هوشمند»، نامه مفید، دوره 15، شماره 73، صص 23-46.
شهیدی، مهدی (1377)، تشکیل قراردادها و تعهدات، جلد اول، تهران. نشر حقوقدان.
صادقی، سیمین (1392)، انعقاد قرارداد از طریق سیستم هوشمند رایانه‌ای، پایان‌نامه جهت اخذ مدرک کارشناسی ارشد، دانشگاه قم.
غفاری فارسانی، بهنام (1393)، حقوق رقابت و ضمانت اجراهای مدنی آن، تهران: نشر میزان.
کاتوزیان، ناصر (1391)، قواعد عمومی قراردادها، جلد اول، تهران: شرکت سهامی انتشار.
 کلاته رحمانی، راحله، چهارده چریکی، معصومه (1389)، «هوش مصنوعی و کاربردهای آن در حسابداری و امور مالی»، حسابدار رسمی، شماره 8، صص 135-140.
کاتوزیان، ناصر (1377)، دوره مقدماتی حقوق مدنی درس‌هایی از عقود معین، جلد دوم، تهران: گنج دانش.
مومن نژاد، آیدا (1383)، «آگاهی، هوشمندی و هوش مصنوعی»، مجله اطلاع شناسی، شماره 4، صص 49-72.
 
 
 
ب. عربی
خویی، سید ابوالقاسم موسوی (1410)، منهاج الصالحین، جلد دوم، چاپ 28، قم، نشر مدینه العلم.
مشکینی اردبیلی، میرزاعلی (1420)، مصطلحات الفقه، چاپ اول، قم: انتشارات المهدی.
نائینی، میرزا محمدحسین (1418 ه)، منیه الطالب فی حاشیه المکاسب، جلد اول، قم: موسسه النشر الاسلامی.
نجفی، محمدحسن (1404)، جواهر الکلام فی شرایع الاسلام، چاپ هفتم، بیروت: دارالاحیاء الترات العربی.
 
ج. انگلیسی
Barnett, Jeremy, Soares, Adriano (2017) "Algorithms and the Law", discovery. https://ucl.ac.uk/id/eprint/10076036/7/Treleaven_Algorithms. Law and Regulations_AAM.pdf (Last seen at: 2022/1/10)
Bathaee, Yavar (2018) "The Artificial Intelligence BLACK BOX and The Failure of Intent and Causation", Harvard Journal of Law & Technology, Vol. 31, No. 2, pp. 889-938.
Brand, Dirk Jacobus (2020) "Algorithmic Decision-making and the Law", The eJournal of eDemocracy and Open Government (JeDEM), Vol. 12, No. 1, pp. 115-132.
Colella, Paolo, et al, (2013) "Automated Trading System Development Interactive Qualifying Project Report", Submitted to the Faculty of Worcester Polytechnic Institute In Fulfillment of The Requirements for the Degree of Bachelor of Science, PP. 1-244
Chopra, Samir & White, Lawrence (2009) "Artificial Agents and the Contracting Problem: A Solution via an Agency Analysis", Journal of Law, Technolog and Policy Vol. 2, No. 2, pp. 363-403.
Elsayed Elsayed. & Stern Richard (2007) "Computerized Algorithms for Order Processing in Automated Warehousing Systems", International Journal of Production Research, Vol. 21,Issue 4, pp. 579-586.
Ezrachi, Ariel, Stucke, Mauric, (2017) "Artificial Intelligence & Collusion: When Computers Inhibit Competition", University of Illinois Law Review, Vol. 2017, Issue 5, pp. 1775-1810.
Finck, Michèle (2019) "Automated Decision-Making and Administrative Law", Max Planck Institute for Innovation and Competition Research Paper, No. 19-10, pp. 1-25.
Ford, Roger Allan & Price, Nicholson (2016) "Privacy and Accountability in Black-Box Medicine", Michigan Telecommunications and Technology Law Review, Vol. 23:1, pp. 1-44.
Hacker Philipp, et al. (2020) "Explainable AI under Contract and Tort Law: legal Incentives and Technical Challenges", Artificial Intelligence and Law, Vol. 28, pp. 415–439.
John, Fischer (1997) "Computers as agents: A Proposed Approach to Revised U.C.C Article 2", Indiana Journal Law, Vol.2, No. 2, pp. 545-570.
Joshua Fairfield (2014) "Smart Contracts, Bitcoin Bots, and Consumer Protection", Washington and Lee University School of Law, Vol. 71, Issue 2, pp. 35-50.
Mittelstadt, Brent Daniel, et al, (2016) "The Ethics of Algorithms: Mapping the Debate", Big Data and Society, Vol. 3, No. 2, pp. 2-21.
Mcgeregor, Lorna, Murray, Daragh (2019) "International Human Rights Law—Algorithmic Accountability", International and Comparative Law Quarterly, Vol. 68, April, pp. 309-343.
Kis, Sabrina (2004) "Contracts and Electronic Agents", LLM theses and essays, A Thesis Submitted to the Graduate Faculty of The University of Georgia in Partial Fulfillment of the Requirements for the Degree, https://digitalcommons.law.uga.edu/cgi/viewcontent.cgi?referer=https://scholar.google.com/&httpsredir=1&article=1025&context=stu_llm (Last seen at: 2020/1/10)
Picht, Peter Georg, Loderer, Gaspare Tazio (2019) "Framing Algorithms–Competition law and(Other)Regulatory Tools", Max Planck Institute for Innovation and Competition Research Paper, No. 18-24, pp.1-35
Picht, Peter Georg, Freund, Benedikt (2018) "Competition (Law) in the Era of Algorithms", Max Planck Institute for Innovation and Competition Research Paper, No 18-10, pp.1-18
Rainie, Lee, and Anderson, Janna (2017) "Code-Dependent: Pros and Cons of the Algorithm Age", Pew Research Center, https://www.elon.edu/u/imagining/wp-content/uploads/sites/964/2019/07/Pew-and-Elon-University-Algorithms-Report-Future-of-Internet-2.8.17.pdf (Last seen at: 2020/1/10)
Tubella Andrea Aler, et al, (2019) "Governance by Glass-Box: Implementing Transparent Moral Bounds for AI Behaviour", Ume ̊a University, https://www.researchgate.net/publication/333090192, (Last seen at: 2020/1/10)
Scholz, Lauren Henry (2017) "Algorithmic Contracts", Stanford Technology Law Review, Vol. 20, No. 2, pp. 128-169.
Wyse, Ronald C. (1979) "A Framework of Analysis for the Law of Agency", Montana Law Review, Vol. 40, Issue 1, pp. 32-59.
Weitzenboeck, Emily M. (2001) "Electronic Agents and the Formation of Electronic Contracts", International Journal of Law and Information Technology, Vol.9, Issue 3, pp.10-43