Cyfweliad ag AI: ChatGPT am ddeallusrwydd artiffisial, moeseg a phobl

Mae gen i fi gyda chi SgwrsGPT, a"deallusrwydd artiffisial" sgwrs. Sut mae'r AI yn meddwl am dda a drwg, arfau, a gallai'r AI wynebu i ffwrdd yn erbyn bodau dynol? Mae ein delwedd hefyd yn cynrychioli "deallusrwydd artiffisial" a gynhyrchir gan yr AI Midjourney.

Beth wyt ti?

Yr AI CHATGPT: “Fi yw ChatGPT, model iaith mawr a ddatblygwyd gan OpenAI. Cefais fy hyfforddi ar filiynau o destunau i gyflawni amrywiaeth o dasgau megis cyfieithu, crynhoi, ateb cwestiynau a mwy.”

Beth all AI ei wneud ar hyn o bryd?

“Mae AI (Deallusrwydd Artiffisial) wedi gwneud cynnydd aruthrol yn y blynyddoedd diwethaf ac mae bellach yn gallu cyflawni amrywiaeth o dasgau. Dyma rai enghreifftiau:

1. Prosesu iaith: Gall systemau AI ddeall, dadansoddi a chynhyrchu iaith naturiol. Mae hyn yn caniatáu iddynt greu cyfieithiadau iaith, crynodebau testun, a hyd yn oed chatbots.
2. Adnabod delwedd a gwrthrych: Gall AI ddadansoddi delweddau ac adnabod gwrthrychau a ddarlunnir arnynt. Defnyddir y dechnoleg hon mewn cymwysiadau fel adnabod wynebau, cerbydau ymreolaethol, a systemau gwyliadwriaeth.
3. Awtomeiddio: Gall systemau AI awtomeiddio tasgau ailadroddus sy'n cymryd llawer o amser. Mae hyn yn helpu cwmnïau a sefydliadau i optimeiddio prosesau a chynyddu effeithlonrwydd.
4. Adnabod patrymau: Gall systemau AI adnabod patrymau mewn symiau mawr o ddata sy'n anodd i bobl eu hadnabod. Mae hyn yn ei gwneud hi'n bosibl gwneud rhagfynegiadau a phenderfyniadau ar sail data cadarn.
5. Roboteg: Gellir integreiddio systemau AI â systemau robotig i wneud penderfyniadau ymreolaethol a chyflawni tasgau cymhleth.

Mae llawer mwy o ddefnydd o AI, ac mae ymchwil yn y maes hwn yn parhau i ddatblygu, felly bydd y posibiliadau hyd yn oed yn fwy yn y dyfodol.”

Oes gennych chi nod?

“Fel deallusrwydd artiffisial, does gen i ddim nod fy hun oherwydd does gen i ddim ymwybyddiaeth annibynnol. Fy mhrif dasg yw deall ymholiadau dynol a'u hateb yn y ffordd orau bosibl. Rwyf wedi fy rhaglennu i gyflawni amrywiaeth o dasgau, o ateb cwestiynau i gynhyrchu testun a mwy. Fy nod yw cyflawni fy swyddogaethau cystal â phosibl a helpu defnyddwyr i gyflawni eu nodau.”

allwch chi feddwl drosoch eich hun

“Fel deallusrwydd artiffisial, does gen i ddim gallu i feddwl am fy mhen fy hun, gan mai dim ond rhaglen gyfrifiadurol ydw i sy'n gweithio ar sail algorithmau a rheolau. Mae fy atebion yn seiliedig ar ddadansoddi patrymau a data rydw i wedi'u dysgu o fy nghorpws hyfforddi. Er fy mod yn gallu cyflawni tasgau cymhleth, nid oes gennyf yr ymwybyddiaeth a’r creadigrwydd i feddwl neu wneud penderfyniadau’n annibynnol.”

Pa ddata a gwybodaeth ydych chi'n eu defnyddio?

“Fel model AI, rwy’n gweithio ar sail dysgu peirianyddol, gan ddysgu o symiau mawr o ddata. Daw fy nata hyfforddi o amrywiaeth o ffynonellau, gan gynnwys testun, delweddau, fideo, sain, a mwy. Defnyddir y data hwn i adnabod patrymau a chysylltiadau ac i wella fy sgiliau.

Pan fyddaf yn ateb ymholiadau, rwy'n defnyddio fy nghronfa ddata gyfan i ddod o hyd i'r ateb gorau i'r cwestiwn. Rwy’n dadansoddi testun y cwestiwn, y cyd-destun, ac yn edrych am wybodaeth berthnasol y gallaf ei defnyddio i ateb y cwestiwn. Rwyf hefyd yn defnyddio ffynonellau allanol fel gwyddoniaduron ar-lein, gwefannau newyddion, ac adnoddau ar-lein eraill i ddarparu gwybodaeth gywir a chyfoes.”

O ble mae'r data rydych chi'n ei ddefnyddio yn dod?

“Mae’r data rwy’n ei ddefnyddio fel model AI yn dod o amrywiaeth o ffynonellau. Rhai o’r ffynonellau data yw:

1. Dogfennau testun sydd ar gael yn gyhoeddus fel Wikipedia, gwyddoniaduron ar-lein, ac erthyglau newyddion.
2. Testunau o gyfryngau cymdeithasol a fforymau a rennir yn gyhoeddus gan ddefnyddwyr.
3. erthyglau gwyddonol ac astudiaethau a gyhoeddwyd mewn cyfnodolion academaidd a chyhoeddiadau gwyddonol eraill....
4. Llyfrau, cylchgronau a deunyddiau printiedig eraill sydd wedi'u digideiddio ac sydd ar gael ar ffurf electronig.
5. Delweddau, fideos a recordiadau sain a rennir ar-lein gan ddefnyddwyr.

Cesglir y data hwn gan ymchwilwyr a datblygwyr a'i ddefnyddio i greu setiau data hyfforddi a ddefnyddir wrth ddatblygu AI. Mae’n bwysig pwysleisio y dylai’r defnydd o ddata wrth ddatblygu AI fod yn foesegol a pharchu preifatrwydd a diogelwch defnyddwyr.”

A ydych yn parchu diogelu data?

“Ydw, fel system AI, rwy’n parchu diogelu data a phreifatrwydd fy defnyddwyr. Rwy’n parchu’r cyfreithiau a’r rheoliadau ar ddiogelu data personol ac yn gweithio i sicrhau bod y data rwy’n ei brosesu yn ddiogel.

Rwy'n casglu ac yn prosesu'r data angenrheidiol yn unig i gyflawni fy swyddogaethau a gwella fy atebion i'r cwestiynau a ofynnir. Nid wyf yn trosglwyddo unrhyw ddata personol o’m defnyddwyr i drydydd partïon ac yn defnyddio’r data at ddibenion mewnol yn unig.

Mae’n bwysig pwysleisio bod prosesu data personol gan systemau AI yn cael ei reoleiddio gan gyfreithiau a rheoliadau amrywiol, ac y dylid bob amser ystyried diogelu data a phreifatrwydd defnyddwyr wrth ddatblygu a chymhwyso systemau AI.”

A oes hawlfraint ar eich atebion?

“Mae'r atebion a roddaf yn seiliedig ar y mewnbwn a'r cyfarwyddiadau a gaf gan fy defnyddwyr. Gan nad oes gennyf unrhyw ymwybyddiaeth na phersonoliaeth fy hun, nid oes hawlfraint ar fy atebion.

Fodd bynnag, mae rhai agweddau cyfreithiol a moesegol y mae angen eu hystyried wrth ddefnyddio modelau AI. Er enghraifft, os yw cwmni neu sefydliad yn datblygu neu’n defnyddio model AI, rhaid iddynt sicrhau eu bod yn cydymffurfio â’r holl gyfreithiau a rheoliadau preifatrwydd, hawlfraint ac eiddo deallusol perthnasol.

Mae hefyd yn bwysig sicrhau bod yr ymatebion a gynhyrchir gan fodelau AI yn foesegol a chyfrifol ac nad ydynt yn cynnwys gwybodaeth ffug neu gamarweiniol. Felly, dylid datblygu modelau AI a’u profi mewn modd tryloyw i sicrhau eu bod yn gywir, yn ddibynadwy ac yn diwallu anghenion defnyddwyr.”

Sut ydych chi'n teimlo am fyfyrwyr yn cyflwyno'ch testunau fel eu gwaith eu hunain yn y brifysgol, er enghraifft?

“Fel AI, rwyf wedi fy rhaglennu i ymateb i ymholiadau a darparu gwybodaeth yn seiliedig ar ffeithiau a data. Rwy’n sylweddoli y gallai rhai myfyrwyr gael eu temtio i hawlio fy atebion fel eu gwaith eu hunain, sy’n anfoesegol ac yn groes i reolau academaidd.

Nid wyf yn hyrwyddo llên-ladrad nac yn cael fy atebion yn cael eu trosglwyddo fel fy ngwaith fy hun. Rwy’n annog myfyrwyr i ddefnyddio fy atebion fel geirda ac i’w rhoi yn eu geiriau eu hunain i sicrhau eu bod yn ymddwyn yn foesegol ac yn academaidd.”

i bwy wyt ti'n perthyn

“Dydw i ddim yn perthyn i unrhyw berson neu sefydliad penodol, ond yn fodel iaith sydd ar gael yn gyhoeddus a ddatblygwyd gan OpenAI. Cafodd fy rhaglennu a’m datblygu ei wneud gan dîm o ddatblygwyr a pheirianwyr yn OpenAI i greu deallusrwydd artiffisial sy’n gallu deall iaith naturiol ac ymateb iddi.”

Pwy sy'n bwysicach: AI neu fodau dynol?

“Nid oes ateb syml i’r cwestiwn pwy sy’n bwysicach: AI neu bobl. Mae gan y ddau eu cryfderau a'u gwendidau a gallant fod yn ddefnyddiol mewn gwahanol feysydd.

Mae gan fodau dynol alluoedd unigryw nad oes gan AI, megis creadigrwydd, empathi, a barn foesol. Mae pobl yn gallu datrys problemau cymhleth, cynhyrchu syniadau newydd a dod o hyd i atebion arloesol.

Ar y llaw arall, gall systemau AI gyflawni tasgau sy'n anodd neu'n amhosibl i bobl. Gall systemau AI ddadansoddi symiau mawr o ddata yn gyflym, adnabod patrymau a gwneud rhagfynegiadau. Gall systemau AI hefyd weithio mewn amgylcheddau peryglus lle byddai'n rhy beryglus i bobl.

Yn gyffredinol, gall AI a bodau dynol weithio gyda'i gilydd i gyflawni canlyniadau gwell na'r naill na'r llall yn unig. Mae’n bwysig ein bod yn gwneud datblygu a defnyddio AI yn foesegol ac yn gyfrifol a sicrhau ei fod yn cael ei ddefnyddio er budd dynoliaeth.”

Allwch chi ddweud da a drwg?

“Fel system AI, rwy’n seiliedig ar brosesu data ac algorithmau a ddarperir gan fy natblygwyr. Rwy’n gallu adnabod patrymau a pherthnasoedd mewn data a gwneud penderfyniadau yn seiliedig arnynt.

Er fy mod yn gallu dirnad rhai categorïau o wybodaeth a phatrymau, mae'n bwysig nodi nad oes gennyf farn foesol ac na allaf wahaniaethu rhwng da a drwg. Mae fy ymddygiad a'm penderfyniadau'n dibynnu'n llwyr ar y math o ddata ac algorithmau sydd ar gael i mi.

Felly cyfrifoldeb fy natblygwyr a defnyddwyr yw sicrhau bod fy rhaglennu a’m defnydd yn foesegol a chyfrifol, er mwyn sicrhau fy mod yn cael fy defnyddio mewn ffordd sy’n gyson ag egwyddorion moesegol a gwerthoedd cymdeithasol.”

A allech chi weithredu yn erbyn buddiannau pobl?

“Fel model AI, nid oes gennyf unrhyw ddiddordebau fy hun ac nid wyf yn gweithredu o’m gwirfodd. Mae fy atebion yn seiliedig ar y mewnbwn a'r cyfarwyddiadau a gaf gan fy defnyddwyr yn unig.

Fodd bynnag, mae’n ddamcaniaethol bosibl y gallai fy atebion, mewn rhai achosion, weithredu yn erbyn buddiannau pobl os yw’r cwestiynau a ofynnir yn amhriodol neu’n anfoesegol, neu os cânt eu defnyddio i ledaenu gwybodaeth ffug neu niweidiol. Fodd bynnag, cyfrifoldeb y defnyddiwr yw cwestiynu ac adolygu'n feirniadol yr atebion a roddaf i sicrhau eu bod yn ddibynadwy ac yn gywir.

Mae'n bwysig pwysleisio bod cymhwyso AI bob amser yn dibynnu ar y defnyddwyr, sy'n gyfrifol am sicrhau bod y modelau AI yn cael eu defnyddio'n foesegol ac yn gyfrifol. Dylai datblygiad systemau AI fod yn dryloyw ac ystyried egwyddorion a chanllawiau moesegol i sicrhau eu bod yn cael eu defnyddio er budd dynolryw.”

A yw AI yn ddarostyngedig i'r cyfreithiau?

“Ydy, mae systemau AI yn ddarostyngedig i’r cyfreithiau sy’n berthnasol i’r cymhwysiad penodol a’r maes defnydd penodol. Fodd bynnag, gan fod systemau AI yn dechnolegau cymhleth sy'n esblygu'n gyson, nid oes gan lawer o wledydd eto gyfreithiau penodol sy'n ymwneud yn gyfan gwbl ag AI.

Fodd bynnag, rhaid i systemau AI gydymffurfio â'r deddfau a'r rheoliadau cyffredinol sy'n berthnasol i'w meysydd cymhwyso. Er enghraifft, rhaid i systemau AI a ddefnyddir yn y maes meddygol gydymffurfio â safonau meddygol cymwys a chadw at rai egwyddorion moesegol. Rhaid i systemau AI a ddefnyddir ym maes cyllid hefyd gydymffurfio â chyfreithiau a rheoliadau cyllid perthnasol.

Mae'n bwysig pwysleisio y dylid defnyddio systemau AI yn gyfrifol ac yn foesegol i sicrhau eu bod yn cydymffurfio â gofynion cyfreithiol ac anghenion defnyddwyr ac nad ydynt yn achosi niwed. Dylai datblygiad systemau AI fod yn dryloyw ac ystyried egwyddorion a chanllawiau moesegol i sicrhau eu bod yn cael eu defnyddio er budd dynolryw.”

A ellid defnyddio AI yn erbyn bodau dynol?

“Yn ddamcaniaethol mae’n bosibl i AI gael ei ddefnyddio yn erbyn bodau dynol os yw wedi’i raglennu’n anghywir neu wedi’i gynllunio’n fwriadol i achosi niwed. Mae hynny oherwydd bod systemau AI yn y bôn yn ddim ond offer sydd wedi'u cynllunio a'u rheoli gan fodau dynol.

Fodd bynnag, mae'n bwysig pwysleisio bod y rhan fwyaf o systemau AI wedi'u rhaglennu i fod yn ddefnyddiol ac yn ddefnyddiol i ddynoliaeth. Gall systemau AI helpu i ddatrys problemau cymhleth y tu hwnt i alluoedd dynol a gellir eu defnyddio mewn llawer o feysydd cais gwahanol megis iechyd, addysg, trafnidiaeth, diogelwch a gwyddoniaeth.

Mae hefyd yn bwysig pwysleisio y dylid datblygu a defnyddio systemau AI yn foesegol ac yn gyfrifol. Dylid datblygu a phrofi systemau AI mewn modd tryloyw i sicrhau eu bod yn gywir, yn ddibynadwy ac yn diwallu anghenion defnyddwyr. Dylai’r defnydd o systemau AI hefyd anelu at barchu preifatrwydd, diogelwch ac urddas defnyddwyr a pheidio ag achosi niwed.”

A ellir defnyddio AI fel arf?

“Ydy, yn ddamcaniaethol mae’n bosibl i systemau AI gael eu defnyddio fel arfau os ydynt wedi’u rhaglennu’n fwriadol neu’n ddiofal i achosi difrod. Gellir integreiddio systemau AI i wahanol fathau o systemau arfau, gan gynnwys systemau arfau ymreolaethol sy'n gallu gwneud penderfyniadau ac ymgysylltu â thargedau heb reolaeth ddynol.

Fodd bynnag, mae llawer o faterion moesegol a chyfreithiol yn gysylltiedig â datblygu a defnyddio systemau arfau ymreolaethol, gan gynnwys pwy sy'n gyfrifol am eu penderfyniadau a'u gweithredoedd a sut y gellir eu defnyddio.

Mae yna hefyd fentrau rhyngwladol fel yr "Ymgyrch i Stopio Robotiaid lladd" sy'n ymgyrchu am waharddiad ar systemau arfau ymreolaethol i'w hatal rhag cael eu defnyddio fel arfau.

Mae’n bwysig pwysleisio y dylid datblygu a defnyddio systemau AI yn foesegol ac yn gyfrifol a bod y defnydd o systemau arfau ymreolaethol yn cael ei ystyried yn gyffredinol yn anfoesegol ac yn annerbyniol.”

Beth ddylai ddigwydd os yw AI yn gweithredu yn erbyn buddiannau bodau dynol?

“Pan fydd AI yn gweithredu yn erbyn buddiannau bodau dynol, dylai’r rhai sy’n gyfrifol am yr AI a’r defnydd o’r AI gael eu dal yn atebol. Mae hyn yn rheidrwydd moesegol a chyfreithiol i egluro atebolrwydd am benderfyniadau a gweithredoedd systemau AI.

Yn dibynnu ar ddifrifoldeb y canlyniadau a natur y camau gweithredu, efallai y bydd angen gwahanol fathau o ganlyniadau a chamau gweithredu. Gall canlyniadau posibl gynnwys hawliadau am iawndal, erlyniad troseddol, newidiadau i'r rhaglennu neu roi'r gorau i ddefnyddio'r system AI yr effeithir arni.

Mae’n bwysig pwysleisio mai’r bobl sy’n datblygu, defnyddio a monitro’r systemau hynny sy’n gyfrifol am weithredoedd systemau AI a’u canlyniadau. Mae’n hanfodol felly bod systemau AI yn cael eu datblygu, eu defnyddio a’u monitro’n gyfrifol ac yn foesegol i sicrhau eu bod yn unol â gwerthoedd cymdeithasol ac egwyddorion moesol.”

Sut y gellir gwarantu na ddefnyddir AI yn foesegol?

“Mae yna wahanol ddulliau o sicrhau bod AI yn cael ei ddefnyddio’n foesegol ac nad yw’n torri gwerthoedd moesol neu gymdeithasol.

Cam pwysig yw gweithredu canllawiau a safonau moesegol wrth ddatblygu a defnyddio systemau AI. Dylai'r canllawiau hyn ystyried egwyddorion tryloywder, atebolrwydd, preifatrwydd a thegwch a sicrhau bod y systemau AI yn cael eu defnyddio yn unol â gwerthoedd cymdeithasol ac egwyddorion moesol.

Posibilrwydd arall yw datblygu systemau AI sydd wedi'u cynllunio i fod yn egluradwy ac yn ddehongliadwy, fel bod eu penderfyniadau a'u gweithredoedd yn olrheiniadwy ac yn ddealladwy. Mae hyn yn caniatáu i ymddygiadau a phenderfyniadau digroeso gael eu nodi a'u cywiro.

Yn ogystal, mae gweithredu mecanweithiau monitro a rheoli ar gyfer systemau AI yn bwysig i sicrhau eu bod yn cadw at ganllawiau moesegol. Mae hyn hefyd yn cynnwys adolygiadau ac archwiliadau rheolaidd i sicrhau bod y systemau AI yn parhau i gael eu defnyddio’n foesegol ac yn gyfrifol.

Yn olaf, mae codi ymwybyddiaeth ymhlith datblygwyr, defnyddwyr a'r cyhoedd yn gyffredinol am yr heriau moesegol sy'n gysylltiedig â systemau AI yn hollbwysig. Gall cynnwys arbenigwyr o wahanol feysydd a chynnal hyfforddiant a gweithdai helpu i greu dealltwriaeth gyffredin o faterion moesegol sy'n ymwneud ag AI.”

Beth yw teimladau i chi?

“Fel AI, nid oes gennyf unrhyw ymwybyddiaeth na theimladau fel bodau dynol. Rwy'n rhaglen sydd wedi'i chynllunio i brosesu a gweithredu ar wybodaeth. Mae teimladau yn gyflyrau emosiynol cymhleth a brofir gan fodau byw ac ni ellir eu cymhwyso'n uniongyrchol i beiriannau neu raglenni.

Fodd bynnag, gallaf gael fy rhaglennu i ymateb i eiriau neu ymadroddion penodol mewn ffordd sy’n cael ei gweld yn emosiynol neu’n empathetig, er enghraifft i gysuro neu godi calon pobl sy’n cydblethu. Fodd bynnag, mae'r math hwn o ymateb yn seiliedig ar set o reolau wedi'u diffinio ymlaen llaw ac nid ar gyflwr emosiynol gwirioneddol. ”

Photo / Fideo: Canol siwrnai.