日本国在东海之东，古称倭奴国。有人说，因讨厌旧名，又因该国靠近日出之处，便改名为日本国。日本国疆土所至与国王世系乃至物产风俗，见《宋史》之《日本传》。日本国去中国很远，又隔大海，自后汉历魏、晋、宋、隋皆来朝贡。唐代永徽、显庆、长安、开元、天宝、上元、贞元、元和、开成各代都曾遣使入朝。宋雍熙元年(984)，日本僧大周然与其徒五、六人浮海而至，奉赋纳贡，并献铜器十余件，大周然会写隶书，但不懂华语，询问他故乡的情况，只能用笔写字回答。说他的国家内也有五经书及佛经，还有《白居易集》七十卷。大周然回国后，又有以百姓身份来的人叫滕木吉，以和尚身份来的人叫寂照。寂照通文墨，写一手好字。至熙宁以后，连年贡纳方物，来的人皆是和尚。
世祖至元二年(1265)，因高丽人赵彝等说可通日本国，便开始挑选可担任使者的人。三年八月，命兵部侍郎黑的，给虎符，使任国信使，礼部侍郎殷弘给金符，使任国信副使，持国书赴日。国书说：
“大蒙古国皇帝奉书日本国王。朕认为，自古小国之君，领土相接，尚且讲信修睦，况我祖宗，上受天命，拥有中国。在远方异域的人，对我畏威怀德者，不可胜数。朕自即位之初，因同情高丽无辜之民久经战乱，故令我将士停止征讨，归还高丽的疆域，退回他们的仪仗。高丽君臣感德来朝，名义上虽是君臣，感情上却若父子。我想你们君臣大概也已经知道了。高丽为中国之东藩，日本紧靠高丽，不时和中国有信使往来。但到朕即位以来，竟无一使乘船来朝廷通好。可能是国王还未深知，故特遣使持书，说明朕的意向，希望自今以后，友好往来，相亲相睦。圣人以四海为家，不相通好，哪能算是一家呢？至于用兵，还不知是谁所好，请国王斟酌。”
黑的等道经高丽，高丽国王王礻直因受世祖之命，派其枢密院副使宋君斐、借礼部侍郎金赞等引导护送黑的等赴日本。但未到达日本便回来了。
四年六月，世祖认为王礻直是托辞令其遣日本使中途折返，故又派黑的等至高丽，告诉王礻直，要他如期引导蒙古使臣到达日本。王礻直认为海道险阻，不可使天朝使臣再受无功而返之辱，乃于九月，派自己的起居舍人潘阜等持书赴日，在日停留六个月，仍不得要领而归。
五年九月，黑的、殷弘等再次奉诏持国书往日本，至对马岛，日本人拒而不纳，乃执其塔二郎、弥二郎二人而还。
六年六月，命高丽金有成送塔二郎、弥二郎回日本，以便中书省能乘机探察这个国家，但也没有回报。有成滞留在日本太宰府的守护所很久。十二月，又命秘书监赵良弼使日，带去的国书说：“听说一个真正的王者是不见外于人的。高丽与朕既为一家，日本实际上也就是朕的邻境。所以，曾派使修好。但为你们的边吏阻止而不得通行。我们曾抓获你们两个人，朕令有关官府对他们进行抚慰，托他们带信给你国王，但也复寂然无闻。后来又想继续通好，但因属国高丽权臣林衍作乱，因而不能实现。日本国王是否也因为林衍之阻而停止派出使者呢？或者已派出使者中途又因道路阻塞而退回了呢？到底怎样皆不可知。如果不是这些原因，那么，日本素来号称知礼之国，难道国王君臣肯随便地做出这种不加深思的事吗？近来林衍已灭亡，王位已恢复，正在使其民众安居乐业，所以，在这个时候，特命少中大夫秘书监赵良弼充当国信使，持书赴日。如你们立即派使者随赵前来，则友好往来是两国的好事，如或犹豫，以致用兵，那么，到底谁乐于这样做，望国王三思。”良弼将动身赴日时，请求确定与日本国王见面时的礼仪的等级，经过朝廷商议，认为日本与我国上下名分未定，没有君臣礼仪可言。世祖同意这个意见。
七年十二月，世祖诏告高丽王礻直送国信使赵良弼通好日本，希望这一次一定到达日本。高丽王仍以忽林失、王国昌、洪茶丘带兵送良弼于海上，为了国信使返回，令忽林失等暂驻金州等处。
八年元月，日本通事曹介升等上言：“高丽绕弯路导引国使，但此路之外，还有捷径。倘得顺风，半日可到。若只派使臣，我不敢同往；若派大军进攻，我愿当向导。”世祖说“：这要好好想一想。”九月，高丽王礻直遣其通事别将徐翶导送良弼赴日，日本始遣弥四郎入朝，世祖设宴慰劳后送他回国。
九年二月，枢密院臣说：“奉命赴日的赵良弼派书状官张铎来说，去年九月，和日本人弥四郎等至太宰府西守护所。守护所的人说，过去为高丽所骗，高丽一再说元朝要来打日本，谁知元朝皇帝是一位好生、恶杀的人，先派遣人来送国书。本来我守护应该往元朝见皇帝，但王京去此尚远，故愿先遣人随从来日使臣到元朝回报。”良弼乃遣铎及日使二十六人至京师求见。世祖疑是国王派这些人来的，说是守护所的人派的，可能是一诈称。于是要翰林承旨和礼霍孙去询问姚枢、许衡等。他们都回答说：“诚如您皇上推想的，日本人怕我们加兵于彼，故派这些人来窥察我国的强弱。因此，宜示之以宽仁，但不要让他们随便进见皇上。”世祖听从他们的意见。此月，高丽王致书日本。五月，又以书信往，令日本一定和元朝通好。但都没有回答。
十年六月，赵良弼再使日本，到太宰府而还。
十一年三月，命凤州经略使忻都、高丽军民总管洪茶丘以千料舟、拔都鲁轻快舟、汲水小舟各三百，共九百艘，载士卒一万五千，准备七月征日本。冬十月，进入日本国，打败了日本人。由于官兵不整，又矢尽，只到处掳掠一通便回国了。
十二年二月，遣礼部侍郎杜世忠、兵部侍郎何文著、计议官撒都鲁丁使日，又给国书，也无回答。
十四年，日本遣商人持金来调换铜钱，得到元朝允许。
十七年二月，日本杀中国使臣杜世忠等。征东元帅忻都、洪茶丘请自率兵往征讨。廷臣商议后，决定稍缓进行。五月，世祖召见范文虎，商议东征日本的事。八月下诏书，征兵东征日本。
十八年正月，命日本行省右丞相阿剌罕、右丞范文虎及忻都、洪茶丘等率十万人征日本。二月，诸将向皇帝辞行，世祖叮嘱说：“开始因为日本使臣来，故我国也遣使前往。现在，他扣留我使臣，不让回国，所以要你们此次出征。我听汉人说，取人家国，就是要获得百姓、土地。若尽杀百姓，只得到土地有什么用？又有一件我实在担心的事，就是怕你们几个人不团结。假若日本人来，与你们有事商讨，你们当同心协谋，意见统一，有如一个人在说话。”五月，日本行省参议裴国佐等说：“本省右丞相阿剌罕、范右丞、李左丞先与忻都、茶丘入朝时，同院官议定，领水军至高丽金州，与忻都、茶丘会师，然后出征日本。后又因风向与水流不便，再议定在一岐岛会师。今年三月，有日本船被风吹水流而漂至，令其水手画地图，因见靠近太宰府西方有平户岛，周围皆水，可集中停泊军船。这个岛并非日人防务的重点，若径直占据平户，使人乘船往一岐，约忻都、茶丘来会师，再进军日本九州，最为有利。”世祖说“：这里不了解日本的情况，阿剌罕等人应该知道，要他自己作决定。”六月，阿剌罕因病不能行，命阿塔海代总军事。八月，诸军未见敌，全军覆没。阿塔海等回国报告说“：至日本时，欲攻太宰府，恰逢暴风，军船大量破损。本来还想商量再打一下，但万户厉德彪、招讨王国佐、水手总管陆文政等不听节制，擅自逃走。本省只好载残部至合浦，遣散他们回故里。”不久，败卒于阊脱身归来报告说：“官军六月下海，七月至平户岛，移驻五龙山。八月一日，暴风破舟。五日，文虎等诸将各自选乘坚固的好船，弃士卒十余万于山下。众议推张百户为主帅，号之为张总管，听总管的约束。正在伐木造船准备回师。七日，日本人来战，除大批被杀死者外，还掳走了二三万人。九日，至八角岛，尽杀蒙古人、高丽人及汉人。将新降者称为唐人，不杀他们，而收他们做奴隶，于阊便是这一类人。”因为行省官员议事时不能协调一致，故皆弃军回国。许久以后，又有莫青及吴万五也逃回，十万之众得回者仅三人而已。
二十年，命阿塔海为日本省丞相，与彻里帖木儿右丞、刘二拔都儿左丞募兵造船，准备再征日本。淮西宣慰使昂吉儿上言，人民不胜劳苦，请求不要出兵。
二十一年，又因日本推崇佛教，故派王积翁与补陀僧如智往使。舟中有不愿去日的人共同谋杀积翁，这次使日未能成功。
二十三年，世祖说：“日本未曾来侵犯我们，今交趾犯我边界，宜放下日本，专门攻打交趾。”
成宗大德二年(1293)，江浙省平章政事也速答儿乞用兵征日本，帝说：“今非其时，容朕慢慢想想再说。”
三年，僧人宁一山，加封为妙慈弘济大师，委任他为元朝遣日使，附于商船前往日本，但日本人没有派使臣来中国。