La otra cara de la moneda: ¿cómo se emplea la Inteligencia artificial para combatir el discurso del odio?

24 julio, 2020
Image

La mentira y el odio han formado parte de la humanidad desde siempre. Lo nuevo es que en los últimos años, ambos han cobrado un poder inusitado gracias a las nuevas tecnologías, como las redes sociales. En cuanto al discurso del odio, el número de contenidos eliminados con este perfil solo en Facebook fue de 9.6 millones entre enero a marzo del 2020, según indica su informe Transparency. Vale resaltar que este reporte no contempla el período del coronavirus.

Tales indicadores nos remontan a un cuadro más preocupante aún, el de una corriente corrosiva que ya mueve el péndulo de la opinión pública y exacerba los ánimos de las personas. Basta con recordar las campañas de desinformación en redes sociales de Cambridge Analytica, que también se valieron de mensajes de odio, entre otro tipo de falsedades, para capturar la atención de los votantes en las contiendas electorales del Brexit o la de Estados Unidos en el 2016. De ahí en adelante, el discurso político se ha contaminado con las declaraciones incendiarias.

Si bien, hablamos de ejemplos de un mal uso de las herramientas tecnológicas, finalmente las Tecnologías de la Información y Comunicación (TIC´s) son neutras, por lo que también hay casos de un uso más alentador del I+D para combatir estas distorsiones y sesgos en los contenidos, como la Inteligencia Artificial (IA) y el machine learning o aprendizaje automático.

Un severo problema para las plataformas de contenido ha sido el de moderar comentarios. Si hay algo que se convierte en una delicia para los denominados haters u odiadores es la condición de anonimato, lo que les confiere internet. Puesto que pueden expresar sus opiniones sin tener que dar la cara o por medio de una identidad falsa.

Tal característica más la imposibilidad de moderar en tiempo real los millones de comentarios constructivos y tóxicos de la audiencia, ha alentado la difusión de contenidos falsos y mensajes de acoso u odio en línea. Algo que Facebook, Twitter y otras plataformas con todas sus herramientas aún no pueden controlar.

En ese sentido, The New York Times ha implementado la herramienta “Perspective”, una interfaz de programación de aplicaciones o API por sus siglas en inglés, que por medio de la inteligencia artificial es capaz de moderar los comentarios tóxicos e incendiarios que intentan colarse entre sus contenidos.

Aunque esta innovación forma parte del catálogo de opciones tecnológicas de gran utilidad para medios como The New York Times o El País, lo cierto es que está siendo aplicada en plataformas dedicadas a la gestión de comentarios y tiene herramientas que bien puede usar cualquier ciudadano que prioriza un debate sano en redes sociales.

A nivel de funciones para moderadores, el sistema de Perspective trabaja con tecnología machine learning para detectar en forma automática patrones de toxicidad en función de las opiniones expresadas por los usuarios respecto a comentarios previos. Esto es útil, en especial, en aquellos comentarios que sin usar palabras ofensivas, a nivel semántico, son agresiones sutiles. De esta forma, se detecta la escala de toxicidad, la cual puede dispararse o ser fácil de detectar con palabras más universales en este campo, como “nazi”; o puede ser develada con otros términos o conceptos que en un contexto determinado configuran un discurso agresivo en el mundo online.

Cuenta con funciones para comentaristas, como retroalimentación en tiempo real para informarles que sus comentarios son percibidos como tóxicos o pueden violar las reglas de la comunidad en la que interactúan. Además, su herramienta para lectores le permite a los usuarios instalar esta API en su ordenador, descargándola por Tune o vía Google Chrome, para controlar o evitar comentarios tóxicos en aplicaciones como Youtube, Twitter, Facebook o Reddit.

De otro lado, los sesgos de género son otro gran problema que enfrentan las plataformas online. El discurso del odio también se esparce en esta pradera a diario. En ese sentido, ya existen experiencias que se valen del aprendizaje automático para interpretar las representaciones de género, como hizo Google en alianza con The Geena Davis Institute on Gender in Media.

Valiéndose de la inteligencia artificial (IA) y el machine learning, se desarrolló la herramienta denominada el Cociente de Inclusión de Geena Davis (GD-IQ), con la que se analizó la frecuencia en la que participaron los roles femeninos en 100 películas producidas entre el 2014 al 2016. La GD-IQ realiza en forma automática un trabajo que anteriormente era ejecutado por investigadores, quienes visualizaban cada película para interpretar estos sesgos.

A partir de esta innovación, el proceso de análisis se hace al instante y en forma más precisa. Para lo cual, partiendo de la imagen de video y el audio de la película, se detectó la presencia de una mujer o un hombre en la misma, computando el tiempo en el que se desenvuelve cada uno de ellos. Así se encontró que en esta muestra, los roles femeninos ocupan la mitad del tiempo en estas películas, en comparación que sus pares masculinos.

La caja de herramientas IA en las redes sociales

Del lado de las plataformas de redes sociales existen algunas tecnologías que valen la pena comentar. Por ejemplo, en el caso de Facebook, según refiere su director de aprendizaje automático aplicado de Facebook, Joaquín Quiñonero en una entrevista concedida al portal “El Independiente”, esta red ha implementado algunos ajustes en su metodología de depuración de contenidos falsos y mensajes de odio, pasando de los reportes de usuarios indignados al empleo de inteligencia artificial para detectar ipso facto este tipo de contenidos.

De los más de mil millones de publicaciones diarios que circulan en esta red social, el nivel de pericia de Facebook para detectar la desinformación y el discurso del odio se ha incrementado paulatinamente gracias al uso de la IA y el machine learning, que es la principal vía para lograr este objetivo (99% se detecta gracias a esta tecnología). Desde implementaciones como el aprendizaje autosupervisado, para permitir que los algoritmos se alimenten de datos que enseñen a las máquinas a detectar en forma automática este tipo de contenidos en grandes volúmenes de texto en varios idiomas; el uso de la visión computacional para identificar lo mismo en las imágenes; o el aprendizaje multimodal que cumple la misma función pero puede aplicarse en publicaciones que combinan texto, imágenes, videos y sonidos.

Todas estas innovaciones, le han permitido avances a esta plataforma, pero tienen limitaciones, porque los algoritmos no tienen el entrenamiento suficiente para hacer un análisis tan eficaz como el que haría un humano, que es capaz de interpretar la intencionalidad o el mensaje oculto fácilmente, adecuándose al contexto y leyendo a través de la ironía.

En ese sentido, mientras que contenidos como la desnudez, el spam publicitario o el ciberanzuelo o clickbait son tarea resuelta para esta plataforma, según precisa Quiñonero, la interpretación de carácter semántico, especialmente en el discurso del odio, sigue siendo una tarea pendiente para la inteligencia artificial empleada por las plataformas de redes sociales, como Facebook.

Twitter ha tenido un accidente uso de las nuevas tecnologías para combatir el discurso del odio. La plataforma ha sido criticada por no hacer lo suficiente para combatir este tipo de contenidos y también condenada por hacerlo de la manera errada con el chatbot Tay, desarrollado en el 2016 en alianza con Microsoft. Tal herramienta de IA fue eliminada por publicar tweets con frases racistas y sexistas, imitando a los trolls que desplegaban este tipo de comentarios en esta red.

Actualmente, la compañía ha incrementado su capacidad para detectar este tipo de contenidos con mejores herramientas de inteligencia artificial a fin de detectar contenidos racistas o con mensajes de odio, por medio de algoritmos que etiquetan este tipo de tweets o promueven el acoso en línea, siendo reportados o bloqueados en algunos casos.

El problema con esta implementación es que en ocasiones pude fallar, dado que se guía de las reglas o criterios propios de la plataforma. Precisamente, el no tener un estándar independiente para determinar qué tipo de contenido de esta red social es ofensivo o discriminatorio es el talón de Aquiles de la inteligencia artificial usada por Twitter para combatir el discurso del odio.

Nota:

Los datos referentes a las plataformas de Google lo hemos extraído de la presentación del “Taller: Inteligencia artificial y aprendizaje automático en la sala de redacción” de Juan Manuel Lucero, coordinador de Google News Lab, bajo el marco del International Symposium on Online Journalism.

“Taller: Inteligencia artificial y aprendizaje automático en la sala de redacción” de Juan Manuel Lucero
xosotin chelseathông tin chuyển nhượngcâu lạc bộ bóng đá arsenalbóng đá atalantabundesligacầu thủ haalandUEFAevertonxosofutebol ao vivofutemaxmulticanaisonbetbóng đá world cupbóng đá inter milantin juventusbenzemala ligaclb leicester cityMUman citymessi lionelsalahnapolineymarpsgronaldoserie atottenhamvalenciaAS ROMALeverkusenac milanmbappenapolinewcastleaston villaliverpoolfa cupreal madridpremier leagueAjaxbao bong da247EPLbarcelonabournemouthaff cupasean footballbên lề sân cỏbáo bóng đá mớibóng đá cúp thế giớitin bóng đá ViệtUEFAbáo bóng đá việt namHuyền thoại bóng đágiải ngoại hạng anhSeagametap chi bong da the gioitin bong da lutrận đấu hôm nayviệt nam bóng đátin nong bong daBóng đá nữthể thao 7m24h bóng đábóng đá hôm naythe thao ngoai hang anhtin nhanh bóng đáphòng thay đồ bóng đábóng đá phủikèo nhà cái onbetbóng đá lu 2thông tin phòng thay đồthe thao vuaapp đánh lô đềdudoanxosoxổ số giải đặc biệthôm nay xổ sốkèo đẹp hôm nayketquaxosokq xskqxsmnsoi cầu ba miềnsoi cau thong kesxkt hôm naythế giới xổ sốxổ số 24hxo.soxoso3mienxo so ba mienxoso dac bietxosodientoanxổ số dự đoánvé số chiều xổxoso ket quaxosokienthietxoso kq hôm nayxoso ktxổ số megaxổ số mới nhất hôm nayxoso truc tiepxoso ViệtSX3MIENxs dự đoánxs mien bac hom nayxs miên namxsmientrungxsmn thu 7con số may mắn hôm nayKQXS 3 miền Bắc Trung Nam Nhanhdự đoán xổ số 3 miềndò vé sốdu doan xo so hom nayket qua xo xoket qua xo so.vntrúng thưởng xo sokq xoso trực tiếpket qua xskqxs 247số miền nams0x0 mienbacxosobamien hôm naysố đẹp hôm naysố đẹp trực tuyếnnuôi số đẹpxo so hom quaxoso ketquaxstruc tiep hom nayxổ số kiến thiết trực tiếpxổ số kq hôm nayso xo kq trực tuyenkết quả xổ số miền bắc trực tiếpxo so miền namxổ số miền nam trực tiếptrực tiếp xổ số hôm nayket wa xsKQ XOSOxoso onlinexo so truc tiep hom nayxsttso mien bac trong ngàyKQXS3Msố so mien bacdu doan xo so onlinedu doan cau loxổ số kenokqxs vnKQXOSOKQXS hôm naytrực tiếp kết quả xổ số ba miềncap lo dep nhat hom naysoi cầu chuẩn hôm nayso ket qua xo soXem kết quả xổ số nhanh nhấtSX3MIENXSMB chủ nhậtKQXSMNkết quả mở giải trực tuyếnGiờ vàng chốt số OnlineĐánh Đề Con Gìdò số miền namdò vé số hôm nayso mo so debach thủ lô đẹp nhất hôm naycầu đề hôm naykết quả xổ số kiến thiết toàn quốccau dep 88xsmb rong bach kimket qua xs 2023dự đoán xổ số hàng ngàyBạch thủ đề miền BắcSoi Cầu MB thần tàisoi cau vip 247soi cầu tốtsoi cầu miễn phísoi cau mb vipxsmb hom nayxs vietlottxsmn hôm naycầu lô đẹpthống kê lô kép xổ số miền Bắcquay thử xsmnxổ số thần tàiQuay thử XSMTxổ số chiều nayxo so mien nam hom nayweb đánh lô đề trực tuyến uy tínKQXS hôm nayxsmb ngày hôm nayXSMT chủ nhậtxổ số Power 6/55KQXS A trúng roycao thủ chốt sốbảng xổ số đặc biệtsoi cầu 247 vipsoi cầu wap 666Soi cầu miễn phí 888 VIPSoi Cau Chuan MBđộc thủ desố miền bắcthần tài cho sốKết quả xổ số thần tàiXem trực tiếp xổ sốXIN SỐ THẦN TÀI THỔ ĐỊACầu lô số đẹplô đẹp vip 24hsoi cầu miễn phí 888xổ số kiến thiết chiều nayXSMN thứ 7 hàng tuầnKết quả Xổ số Hồ Chí Minhnhà cái xổ số Việt NamXổ Số Đại PhátXổ số mới nhất Hôm Nayso xo mb hom nayxxmb88quay thu mbXo so Minh ChinhXS Minh Ngọc trực tiếp hôm nayXSMN 88XSTDxs than taixổ số UY TIN NHẤTxs vietlott 88SOI CẦU SIÊU CHUẨNSoiCauVietlô đẹp hôm nay vipket qua so xo hom naykqxsmb 30 ngàydự đoán xổ số 3 miềnSoi cầu 3 càng chuẩn xácbạch thủ lônuoi lo chuanbắt lô chuẩn theo ngàykq xo-solô 3 càngnuôi lô đề siêu vipcầu Lô Xiên XSMBđề về bao nhiêuSoi cầu x3xổ số kiến thiết ngày hôm nayquay thử xsmttruc tiep kết quả sxmntrực tiếp miền bắckết quả xổ số chấm vnbảng xs đặc biệt năm 2023soi cau xsmbxổ số hà nội hôm naysxmtxsmt hôm nayxs truc tiep mbketqua xo so onlinekqxs onlinexo số hôm nayXS3MTin xs hôm nayxsmn thu2XSMN hom nayxổ số miền bắc trực tiếp hôm naySO XOxsmbsxmn hôm nay188betlink188 xo sosoi cầu vip 88lô tô việtsoi lô việtXS247xs ba miềnchốt lô đẹp nhất hôm naychốt số xsmbCHƠI LÔ TÔsoi cau mn hom naychốt lô chuẩndu doan sxmtdự đoán xổ số onlinerồng bạch kim chốt 3 càng miễn phí hôm naythống kê lô gan miền bắcdàn đề lôCầu Kèo Đặc Biệtchốt cầu may mắnkết quả xổ số miền bắc hômSoi cầu vàng 777thẻ bài onlinedu doan mn 888soi cầu miền nam vipsoi cầu mt vipdàn de hôm nay7 cao thủ chốt sốsoi cau mien phi 7777 cao thủ chốt số nức tiếng3 càng miền bắcrồng bạch kim 777dàn de bất bạion newsddxsmn188betw88w88789bettf88sin88suvipsunwintf88five8812betsv88vn88Top 10 nhà cái uy tínsky88iwinlucky88nhacaisin88oxbetm88vn88w88789betiwinf8betrio66rio66lucky88oxbetvn88188bet789betMay-88five88one88sin88bk88xbetoxbetMU88188BETSV88RIO66ONBET88188betM88M88SV88Jun-68Jun-88one88iwinv9betw388OXBETw388w388onbetonbetonbetonbet88onbet88onbet88onbet88onbetonbetonbetonbetqh88mu88Nhà cái uy tínpog79vp777vp777vipbetvipbetuk88uk88typhu88typhu88tk88tk88sm66sm66me88me888live8live8livesm66me88win798livesm66me88win79pog79pog79vp777vp777uk88uk88tk88tk88luck8luck8kingbet86kingbet86k188k188hr99hr99123b8xbetvnvipbetsv66zbettaisunwin-vntyphu88vn138vwinvwinvi68ee881xbetrio66zbetvn138i9betvipfi88clubcf68onbet88ee88typhu88onbetonbetkhuyenmai12bet-moblie12betmoblietaimienphi247vi68clupcf68clupvipbeti9betqh88onb123onbefsoi cầunổ hũbắn cáđá gàđá gàgame bàicasinosoi cầuxóc đĩagame bàigiải mã giấc mơbầu cuaslot gamecasinonổ hủdàn đềBắn cácasinodàn đềnổ hũtài xỉuslot gamecasinobắn cáđá gàgame bàithể thaogame bàisoi cầukqsssoi cầucờ tướngbắn cágame bàixóc đĩaAG百家乐AG百家乐AG真人AG真人爱游戏华体会华体会im体育kok体育开云体育开云体育开云体育乐鱼体育乐鱼体育欧宝体育ob体育亚博体育亚博体育亚博体育亚博体育亚博体育亚博体育开云体育开云体育棋牌棋牌沙巴体育买球平台新葡京娱乐开云体育mu88qh88
xosotin chelseathông tin chuyển nhượngcâu lạc bộ bóng đá arsenalbóng đá atalantabundesligacầu thủ haalandUEFAevertonxosofutebol ao vivofutemaxmulticanaisonbetbóng đá world cupbóng đá inter milantin juventusbenzemala ligaclb leicester cityMUman citymessi lionelsalahnapolineymarpsgronaldoserie atottenhamvalenciaAS ROMALeverkusenac milanmbappenapolinewcastleaston villaliverpoolfa cupreal madridpremier leagueAjaxbao bong da247EPLbarcelonabournemouthaff cupasean footballbên lề sân cỏbáo bóng đá mớibóng đá cúp thế giớitin bóng đá ViệtUEFAbáo bóng đá việt namHuyền thoại bóng đágiải ngoại hạng anhSeagametap chi bong da the gioitin bong da lutrận đấu hôm nayviệt nam bóng đátin nong bong daBóng đá nữthể thao 7m24h bóng đábóng đá hôm naythe thao ngoai hang anhtin nhanh bóng đáphòng thay đồ bóng đábóng đá phủikèo nhà cái onbetbóng đá lu 2thông tin phòng thay đồthe thao vuaapp đánh lô đềdudoanxosoxổ số giải đặc biệthôm nay xổ sốkèo đẹp hôm nayketquaxosokq xskqxsmnsoi cầu ba miềnsoi cau thong kesxkt hôm naythế giới xổ sốxổ số 24hxo.soxoso3mienxo so ba mienxoso dac bietxosodientoanxổ số dự đoánvé số chiều xổxoso ket quaxosokienthietxoso kq hôm nayxoso ktxổ số megaxổ số mới nhất hôm nayxoso truc tiepxoso ViệtSX3MIENxs dự đoánxs mien bac hom nayxs miên namxsmientrungxsmn thu 7con số may mắn hôm nayKQXS 3 miền Bắc Trung Nam Nhanhdự đoán xổ số 3 miềndò vé sốdu doan xo so hom nayket qua xo xoket qua xo so.vntrúng thưởng xo sokq xoso trực tiếpket qua xskqxs 247số miền nams0x0 mienbacxosobamien hôm naysố đẹp hôm naysố đẹp trực tuyếnnuôi số đẹpxo so hom quaxoso ketquaxstruc tiep hom nayxổ số kiến thiết trực tiếpxổ số kq hôm nayso xo kq trực tuyenkết quả xổ số miền bắc trực tiếpxo so miền namxổ số miền nam trực tiếptrực tiếp xổ số hôm nayket wa xsKQ XOSOxoso onlinexo so truc tiep hom nayxsttso mien bac trong ngàyKQXS3Msố so mien bacdu doan xo so onlinedu doan cau loxổ số kenokqxs vnKQXOSOKQXS hôm naytrực tiếp kết quả xổ số ba miềncap lo dep nhat hom naysoi cầu chuẩn hôm nayso ket qua xo soXem kết quả xổ số nhanh nhấtSX3MIENXSMB chủ nhậtKQXSMNkết quả mở giải trực tuyếnGiờ vàng chốt số OnlineĐánh Đề Con Gìdò số miền namdò vé số hôm nayso mo so debach thủ lô đẹp nhất hôm naycầu đề hôm naykết quả xổ số kiến thiết toàn quốccau dep 88xsmb rong bach kimket qua xs 2023dự đoán xổ số hàng ngàyBạch thủ đề miền BắcSoi Cầu MB thần tàisoi cau vip 247soi cầu tốtsoi cầu miễn phísoi cau mb vipxsmb hom nayxs vietlottxsmn hôm naycầu lô đẹpthống kê lô kép xổ số miền Bắcquay thử xsmnxổ số thần tàiQuay thử XSMTxổ số chiều nayxo so mien nam hom nayweb đánh lô đề trực tuyến uy tínKQXS hôm nayxsmb ngày hôm nayXSMT chủ nhậtxổ số Power 6/55KQXS A trúng roycao thủ chốt sốbảng xổ số đặc biệtsoi cầu 247 vipsoi cầu wap 666Soi cầu miễn phí 888 VIPSoi Cau Chuan MBđộc thủ desố miền bắcthần tài cho sốKết quả xổ số thần tàiXem trực tiếp xổ sốXIN SỐ THẦN TÀI THỔ ĐỊACầu lô số đẹplô đẹp vip 24hsoi cầu miễn phí 888xổ số kiến thiết chiều nayXSMN thứ 7 hàng tuầnKết quả Xổ số Hồ Chí Minhnhà cái xổ số Việt NamXổ Số Đại PhátXổ số mới nhất Hôm Nayso xo mb hom nayxxmb88quay thu mbXo so Minh ChinhXS Minh Ngọc trực tiếp hôm nayXSMN 88XSTDxs than taixổ số UY TIN NHẤTxs vietlott 88SOI CẦU SIÊU CHUẨNSoiCauVietlô đẹp hôm nay vipket qua so xo hom naykqxsmb 30 ngàydự đoán xổ số 3 miềnSoi cầu 3 càng chuẩn xácbạch thủ lônuoi lo chuanbắt lô chuẩn theo ngàykq xo-solô 3 càngnuôi lô đề siêu vipcầu Lô Xiên XSMBđề về bao nhiêuSoi cầu x3xổ số kiến thiết ngày hôm nayquay thử xsmttruc tiep kết quả sxmntrực tiếp miền bắckết quả xổ số chấm vnbảng xs đặc biệt năm 2023soi cau xsmbxổ số hà nội hôm naysxmtxsmt hôm nayxs truc tiep mbketqua xo so onlinekqxs onlinexo số hôm nayXS3MTin xs hôm nayxsmn thu2XSMN hom nayxổ số miền bắc trực tiếp hôm naySO XOxsmbsxmn hôm nay188betlink188 xo sosoi cầu vip 88lô tô việtsoi lô việtXS247xs ba miềnchốt lô đẹp nhất hôm naychốt số xsmbCHƠI LÔ TÔsoi cau mn hom naychốt lô chuẩndu doan sxmtdự đoán xổ số onlinerồng bạch kim chốt 3 càng miễn phí hôm naythống kê lô gan miền bắcdàn đề lôCầu Kèo Đặc Biệtchốt cầu may mắnkết quả xổ số miền bắc hômSoi cầu vàng 777thẻ bài onlinedu doan mn 888soi cầu miền nam vipsoi cầu mt vipdàn de hôm nay7 cao thủ chốt sốsoi cau mien phi 7777 cao thủ chốt số nức tiếng3 càng miền bắcrồng bạch kim 777dàn de bất bạion newsddxsmn188betw88w88789bettf88sin88suvipsunwintf88five8812betsv88vn88Top 10 nhà cái uy tínsky88iwinlucky88nhacaisin88oxbetm88vn88w88789betiwinf8betrio66rio66lucky88oxbetvn88188bet789betMay-88five88one88sin88bk88xbetoxbetMU88188BETSV88RIO66ONBET88188betM88M88SV88Jun-68Jun-88one88iwinv9betw388OXBETw388w388onbetonbetonbetonbet88onbet88onbet88onbet88onbetonbetonbetonbetqh88mu88Nhà cái uy tínpog79vp777vp777vipbetvipbetuk88uk88typhu88typhu88tk88tk88sm66sm66me88me888live8live8livesm66me88win798livesm66me88win79pog79pog79vp777vp777uk88uk88tk88tk88luck8luck8kingbet86kingbet86k188k188hr99hr99123b8xbetvnvipbetsv66zbettaisunwin-vntyphu88vn138vwinvwinvi68ee881xbetrio66zbetvn138i9betvipfi88clubcf68onbet88ee88typhu88onbetonbetkhuyenmai12bet-moblie12betmoblietaimienphi247vi68clupcf68clupvipbeti9betqh88onb123onbefsoi cầunổ hũbắn cáđá gàđá gàgame bàicasinosoi cầuxóc đĩagame bàigiải mã giấc mơbầu cuaslot gamecasinonổ hủdàn đềBắn cácasinodàn đềnổ hũtài xỉuslot gamecasinobắn cáđá gàgame bàithể thaogame bàisoi cầukqsssoi cầucờ tướngbắn cágame bàixóc đĩaAG百家乐AG百家乐AG真人AG真人爱游戏华体会华体会im体育kok体育开云体育开云体育开云体育乐鱼体育乐鱼体育欧宝体育ob体育亚博体育亚博体育亚博体育亚博体育亚博体育亚博体育开云体育开云体育棋牌棋牌沙巴体育买球平台新葡京娱乐开云体育mu88qh88
Compartir: