DESKRIPSI MATA KULIAH: Matakuliah Matematika Dasar ini merupakan mata kuliah wajib bagi mahasiswa program sarjana Teknologi Informasi dan Pendidikan Teknologi Informasi yang memiliki kontribusi dalam meningkatkan kompetensi mahasiswa dalam pemenuhan capaian pembelajaran prodi. Mata Kuliah disampaikan melalui materi: Fungsi; Limit; Turunan; Penggunaan turunan; Integral; Penggunaan integral; Fungsi Transenden; Teknik pengintegralan. Proses pembelajaran matakuliah ini menggunakan Student Centered yang dievaluasi melalui sikap dan tata nilai yang ditunjukkan oleh mahasiswa, keaktifan dalam perkuliahan serta penguasaan materi teori.
Mampu mengolah data menggunakan tendensi sentral (mean, median, modus), menggunakan dan menghitung ukuran dispersi (variansi, standar deviasi),
Mampu Menjelaskan tentang konsep probabilitas,
Mampu melakukan analisis regresi dan dapat membuat pengambilan keputusan dengan menggunakan salah satu alat uji statistik.
Deskripsi Mata Kuliah: Matakuliah ini membekali mahasiswa dengan pengetahuan dan keterampilan pengolahan data menjadi informasi dengan menggunakan statistik, sehingga dapat mengolah data secara efektif, dapat membaca data serta informasi dengan benar dan melakukan perhitungan secara kuantitatif berdasarkan prinsip-prinsip statistik, dapat menarik kesimpulan secara valid terhadap data yang diperoleh dari lapangan.
Capaian Pembelajaran Mata Kuliah (CPMK): Mahasiswa dapat memahami, menguasai dan mengembangkan kemampuan penalaran tentang argumen-argumen berdasarkan hukum logika yang berlaku
Deskripsi mata kuliah: logika, the calculus of computer science, memegang peran yang sangat penting di bidang ilmu komputer atau teknik informatika. Logika, bersama dengan komputasi numerik dan matematika diskrit, adalah pondasi dasar dalam pemrograman. Logika merupakan dasar-dasar matematis suatu perangkat lunak, digunakan untuk memformalkan semantik bahasa pemrograman dan spesifikasi program, dan menguji ketepatan suatu program. Logika dalam ilmu komputer digunakan sebagai dasar untuk belajar bahasa pemrograman, struktur data, kecerdasan buatan, teknik/ sistem digital, basis data, teori komputasi, rekayasa perangkat lunak, sistem pakar, jaringan saraf tiruan, dan lainnya yang mempergunakan logika secara intensif.
Konferensi Big Data Indonesia (KBI) Tahun 2022 merupakan event tahunan yang diselenggarakan oleh komunitas big data Indonesia dan bekerja sama dengan berbagai stakeholder baik itu pemerintah dalam hal ini kementerian yang terkait, vendor teknologi, perusahaan pengguna big data, lembaga penelitian, perguruan tinggi dan komunitas.
Konferensi ini merupakan sharing berbagai update terbaru tentang big data dan kecerdasan artifisial sekaligus sebagai ajang unjuk kemampuan dalam penguasaan big data dan kecerdasan artifisial. Acara ini dikemas dalam bentuk berbagi pengalaman implementasi, diskusi issue terkini, demo produk lokal dan pembahasan studi kasus.
Pada tulisan ini, kita akan membahas latar belakang Natural Language Processing (NLP) yang mengarah ke Transformer. Model Transformer yang ditemukan oleh Google Research telah memajukan bidang penelitian, pengembangan, dan implementasi Natural Language Processing selama beberapa tahun terakhir.
Selama seratus tahun terakhir, banyak pemikir hebat telah bekerja pada transduksi urutan dan pemodelan bahasa. Mesin secara progresif mempelajari cara memprediksi kemungkinan urutan kata. Pada awal abad ke-20, Andrey Markov memperkenalkan konsep nilai acak dan menciptakan teori proses stokastik. Dalam kecerdasan buatan dikenal sebagai Proses Keputusan Markov (MDP), Rantai Markov, dan Proses Markov. Pada tahun 1902, Markov menunjukkan bahwa kita dapat memprediksi elemen rantai berikutnya, a urutan, hanya menggunakan elemen terakhir terakhir dari rantai itu. Pada tahun 1913, ia menerapkan ini ke kumpulan data 20.000 huruf menggunakan urutan masa lalu untuk memprediksi huruf masa depan dari sebuah rantai. Ingatlah bahwa dia tidak memiliki komputer tetapi berhasil membuktikan teorinya, yang masih dalam gunakan hari ini di Artificial Inteligence AI).
Pada tahun 1948, The Mathematical Theory of Communication karya Claude Shannon diterbitkan. Dia mengutip teori Andrey Markov beberapa kali ketika membangun pendekatan probabilistiknya untuk pemodelan urutan. Claude Shannon meletakkan dasar untuk model komunikasi berdasarkan encoder sumber, pemancar, dan penerima dekoder atau dekoder semantik.
Pada tahun 1950, Alan Turing menerbitkan artikel: Computing Machinery and Intelligence (Mesin Komputasi dan Intelijen). Alan Turing mendasarkan artikel ini pada kecerdasan mesin pada Mesin Turing yang sangat sukses yang mendekripsi pesan Jerman. Ungkapan kecerdasan buatan pertama kali digunakan oleh John McCarthy pada tahun 1956. Namun, Alan Turing menerapkan AI pada tahun 1940-an untuk memecahkan kode pesan terenkripsi dalam bahasa Jerman.
Pada tahun 1954, eksperimen Georgetown-IBM menggunakan komputer untuk menerjemahkan kalimat bahasa Rusia ke bahasa Inggris menggunakan sistem aturan. Sistem aturan adalah program yang menjalankan daftar aturan yang akan menganalisis struktur bahasa. Sistem aturan masih ada. Namun, membuat daftar aturan untuk miliaran kombinasi bahasa di dunia digital kita merupakan tantangan yang harus dihadapi. Untuk saat ini, sepertinya tidak mungkin. Tapi siapa yang tahu apa yang akan terjadi?
Pada tahun 1982, John Hopfield memperkenalkan Recurrent Neural Networks (RNNs), yang dikenal sebagai jaringan Hopfield atau jaringan saraf “asosiatif”. John Hopfield terinspirasi oleh WA Little, yang menulis The Existence of Persistent States in the Brain pada tahun 1974. RNN berevolusi, dan LSTM muncul seperti yang kita kenal. RNN menghafal the persistent states (status persisten) dari suatu urutan secara efisien dengan:
Proses Recurrent Neural Network (RNN)
Setiap status Sn menangkap informasi Sn-1 Ketika akhir jaringan tercapai, fungsi F akan melakukan tindakan: transduksi, pemodelan, atau jenis tugas berbasis urutan lainnya.
Pada era 1980-an, Yann Le Cun merancang Convolutional Neural Network (CNN) multiguna. Dia menerapkan CNN ke urutan teks, dan telah banyak digunakan untuk transduksi dan pemodelan urutan juga. Mereka juga didasarkan pada status persisten yang mengumpulkan informasi lapis demi lapis. Pada 1990-an, setelah beberapa tahun bekerja Yann Le Cun mendapatkan LeNet-5, yang menghasilkan banyak model CNN yang kita kenal sekarang. Arsitektur CNN yang dinyatakan efisien menghadapi masalah ketika berhadapan dengan dependensi jangka panjang dalam urutan yang sangat panjang dan kompleks.
Model Markov Fields, RNNs, dan CNNs berevolusi menjadi beberapa model lainnya. Gagasan perhatian muncul: mengintip token lain secara berurutan, bukan hanya bagian akhir. Itu ditambahkan uga ke model RNN dan CNN.
Setelah itu, jika model AI perlu menganalisis urutan yang lebih panjang yang membutuhkan peningkatan jumlah daya komputer, pengembang AI menggunakan mesin yang lebih kuat dan menemukan cara untuk mengoptimalkan gradien. Tampaknya tidak ada lagi yang bisa dilakukan untuk membuat lebih banyak kemajuan. Tiga puluh tahun berlalu dengan cara ini dan pada bulan Desember 2017, datanglah Transformer, inovasi luar biasa yang menghasilkan skor yang mengesankan pada kumpulan data standar.
Belajar Teknologi Informasi 